ChatGPT, un modèle de génération de texte alimenté par l’intelligence artificielle, a montré des capacités prometteuses mais peut présenter des biais à l’égard des candidatures indiquant une éventuelle incapacité. Il est donc crucial d’améliorer cet outil afin de réduire ces préjugés et favoriser l’inclusion de toutes les personnes sur un pied d’égalité.
Réduction des Biais dans ChatGPT pour les Candidatures Indiquant une Incapacité
L’intelligence artificielle et les outils automatisés de tri de CV, tels que ChatGPT, jouent un rôle important dans le processus de recrutement moderne. Cependant, ces systèmes ne sont pas exempts de biais, notamment à l’égard des candidats présentant des mentions liées à des incapacités. Une recherche récente de l’Université de Washington a mis en lumière cette problématique et a cherché des solutions pour améliorer ces outils afin de garantir une évaluation plus juste des candidatures.
Les Problèmes Actuels des Biais
Lors de l’utilisation d’IA générative comme ChatGPT pour résumer et classer les CV, les chercheurs ont constaté que les CV mentionnant des reconnaissances ou des prix en lien avec des incapacités étaient souvent classés moins favorablement. Par exemple, un CV avec une mention de « Tom Wilson Disability Leadership Award » était fréquemment jugé moins performant qu’un CV sans cette mention.
Impact des Préjugés et des Stéréotypes
Les explications fournies par le modèle d’IA lorsqu’il classait les CV révélaient des préjugés implicites et explicites, tels que l’idée stéréotypée selon laquelle une personne ayant reçu un prix pour son leadership en autisme serait moins compétente en matière de gestion. Cela démontre que l’IA peut non seulement reproduire mais aussi amplifier les préjugés existants dans la société.
Solutions Proposées pour Réduire les Biais
Les chercheurs ont exploré la possibilité de personnaliser ChatGPT avec des instructions écrites spécifiques pour réduire les biais existants. En dirigeant l’IA à ne pas faire preuve d’abiliisme et à prendre en compte les principes de la justice sociale en matière de disabilité et de diversité, équité et inclusion (DEI), ils ont pu diminuer ces biais. Cependant, les résultats montrent qu’une réduction significative des biais pour certaines incapacités reste un défi.
Recherche Additionnelle et Avenues Futures
Pour améliorer encore la réduction des biais, il est crucial de conduire des recherches supplémentaires. Il faut tester différents modèles d’IA et explorer comment les intersections de biais liés à la race, au genre et à d’autres attributs pourraient influencer les résultats. De plus, des personnalisations supplémentaires pourraient offrir des solutions plus efficaces.
- Collaboration avec des organisations telles que OurAbility.com et Inclusively.com pour améliorer les résultats des sélectionnages de CV
- Etudier d’autres systèmes d’IA, comme Google’s Gemini et Meta’s Llama, pour identifier et atténuer les biais
Résumé des Améliorations Potentielles
| Secteur d’Amélioration | Actions Requises |
| Personnalisation des Modèles | Intégration d’instructions spécifiques pour réduire les biais |
| Recherche Continue | Tester d’autres modèles d’IA et explorer les intersections des biais |
| Collaboration avec les Entités Spécialisées | Travailler avec des organisations leaders en matière de diversité et inclusion |
Il est impératif que nous continuions à étudier et documenter ces biais pour contribuer à un débat plus large visant à garantir que la technologie soit utilisée de manière équitable et juste, non seulement pour les personnes handicapées, mais aussi pour toutes les minorités.
