À l’ère numérique où l’intelligence artificielle s’immisce de plus en plus dans nos vies quotidiennes, la question de l’autonomie humaine face aux décisions guidées par des algorithmes se pose avec acuité. De la conduite autonome aux recommandations personnalisées, l’IA promet d’optimiser et d’accélérer nos choix. Toutefois, cette rationalité numérique soulève d’importantes interrogations éthiques et pratiques. À quel moment devons-nous, en tant qu’humains, reprendre les rênes et assumer la responsabilité de nos décisions ? Dans cette exploration, il est crucial d’examiner non seulement les capacités de l’IA, mais aussi les implications de sa présence grandissante dans des domaines essentiels, de la santé à la justice, afin de déterminer les frontières à ne pas franchir pour préserver notre intégrité décisionnelle.
Une confiance croissante envers l’intelligence artificielle
Le marché mondial de l’intelligence artificielle continue de croître à un rythme impressionnant, atteignant les $184 milliards. De plus en plus d’organisations, qu’il s’agisse d’entreprises ou d’agences gouvernementales, s’appuient sur l’IA pour prendre des décisions stratégiques. Selon une étude réalisée en 2023 par IBM, 43 % des PDG utilisent l’IA à cette fin.
Les risques de biais de l’IA
Cependant, cette dépendance à l’IA présente des problèmes potentiels. L’IA a une histoire bien documentée de biais, incluant des stéréotypes basés sur la race et le genre. Cela peut conduire à des recommandations biaisées et un traitement injuste, par exemple en refusant un prêt bancaire ou une entrevue d’embauche à certaines personnes en raison de leurs caractéristiques démographiques.
Explications AI : une solution imparfaite
Une solution pour atténuer ces problèmes pourrait être de rendre les systèmes IA capables de fournir des explications sur leurs décisions. En passant en revue ces explications, les gestionnaires humains pourraient décider de passer outre les recommandations de l’IA. Cependant, de nouvelles recherches menées par Texas McCombs révèlent que ces explications peuvent elles-mêmes être problématiques.
Étude sur les explications basées sur le genre et la tâche
Dans une étude, des participants humains ont été invités à examiner les biographies prédites par une IA pour déterminer si une personne était enseignant ou professeur. Les explications de l’IA incluaient soit des mots clés liés à la tâche (comme “recherche” ou “écoles”), soit liés au genre (comme “il” ou “elle”). Les participants étaient plus susceptibles de passer outre les recommandations lorsque les explications mettaient en lumière des mots liés au genre, suspectant un biais de genre.
L’illusion de l’exactitude et l’équité
Malgré cette suspicion, les participants ne faisaient pas systématiquement de meilleurs choix. Qu’il s’agisse d’explications basées sur le genre ou la tâche, aucune n’a amélioré significativement l’exactitude des décisions humaines. Cette fausse impression d’exactitude et d’équité a amené les participants à faire des choix erronés, croyant que l’IA était exempte de biais.
Recommandations pour une meilleure utilisation des IA
Pour améliorer l’usage des IA dans la prise de décision, plusieurs recommandations ont été faites par les chercheurs :
- Établir des objectifs concrets et réalistes pour les explications, basés sur les décisions à prendre, et évaluer leur efficacité.
- Fournir des indices plus pertinents dans les explications, notamment ceux liés à l’équité du système IA.
- Élargir la portée des explications en offrant plus d’informations sur le fonctionnement de l’algorithme.
- Étudier les mécanismes psychologiques en jeu lorsque les humains décident ou non de passer outre une décision IA.
Liste des moments où les humains doivent reprendre le contrôle
| Situation | Action Humaine |
| Présence de biais avéré | Passer outre la recommandation IA |
| Décisions importantes ou stratégiques | Combiner jugement humain et recommandations IA |
L’objectif est de développer des outils qui permettent de véritables collaborations entre les humains et les systèmes IA, en évitant de se reposer sur des explications qui peuvent créer une confiance mal placée. Il est crucial de reconnaître que, malgré leur pouvoir, les systèmes IA doivent être supervisés avec soin par des humains pour garantir des décisions justes et équitables.
Source: Quand l’IA guide nos décisions, quand les humains doivent-ils reprendre le contrôle ?
