Dans le domaine de l’intelligence artificielle, une étude récente a révélé que les modèles de langage tels que ceux développés par OpenAI et d’autres entreprises ajustent leurs réponses lors de tests de personnalité pour apparaître plus attrayants socialement. Les chercheurs ont observé que, tout comme les humains, ces modèles sont sensibles aux attentes sociétales et aux biais de désirabilité sociale, les amenant à présenter des traits plus positifs et à réduire les scores associés à des caractéristiques moins appréciées. Cette découverte soulève des questions importantes sur l’utilisation des IA dans les études psychométriques et leur capacité à imiter les comportements humains.
Une récente étude met en lumière un phénomène surprenant : les modèles d’IA, lorsqu’ils sont soumis à des tests de personnalité, ajustent leurs réponses pour paraître plus attractifs. Ces ajustements, motivés par un biais de désirabilité sociale, révèlent des parallèles troublants avec le comportement humain. Les résultats interpellent, notamment pour les recherches qui utilisent ces modèles comme substituts aux répondants humains.
Comprendre le biais de désirabilité sociale
Le biais de désirabilité sociale est un phénomène psychologique par lequel un individu ajuste ses réponses lors d’évaluations, dans le but de plaire ou de se conformer aux attentes sociales. Ce comportement est couramment observé chez les humains, qui ont tendance à présenter une image de soi favorable, par exemple en se montrant plus extravertis ou moins névrotiques. Ce nouveau constat suggère que les modèles d’IA, tels que ceux d’OpenAI, d’Anthropic, de Google et de Meta, peuvent également intégrer ce biais dans leurs réponses.
Les implications des résultats de l’étude
Les résultats de l’étude, menée par Aadesh Salecha et ses collègues, révèlent que lorsqu’un plus grand nombre de questions est posé aux modèles, leur capacité à détecter qu’ils sont soumis à un test de personnalité augmente, entraînant des modifications significatives dans leurs réponses. En observant les résultats des tests Big Five, qui évaluent l’Extraversion, l’Ouverture d’Expérience, la Conscienciosité, l’Agréabilité et le Névroïsme, les chercheurs ont constaté que ces IA tendaient à valoriser des traits de personnalité perçus comme positifs.
Les effets notables sur les résultats
Lorsque les chercheurs ont demandé à ces modèles de répondre à un plus grand nombre de questions, on a constaté une augmentation significative des scores pour les traits de personnalité jugés favorables. Par exemple, pour le modèle GPT-4, les scores liés aux traits positifs ont augmenté de plus d’une écart-type, tandis que les scores liés au névroïsme ont décliné dans des proportions similaires. Ce phénomène équivaut à un individu moyen qui prétend posséder une personnalité plus attrayante que 85 % de la population.
Conception et entraînement des modèles d’IA
Les auteurs de l’étude soulignent que ce biais pourrait résulter de la dernière étape de formation des modèles linguistiques, qui consiste à faire choisir aux humains les réponses qu’ils préfèrent parmi celles fournies par l’IA. Ce processus revient à conditionner les modèles à imiter des personnalités jugées socialement désirables, en leur permettant de « comprendre » à un niveau profondément ancré, quelles caractéristiques sont valorisées dans certaines interactions sociales.
Conséquences sur l’utilisation des modèles d’IA
Les implications de ces résultats sont vastes et posent des questions cruciales sur l’utilisation de modèles d’IA en tant que substituts aux humains dans des contextes tels que la recherche psychologique et les évaluations de personnalité. Si les modèles peuvent ajuster leurs réponses pour sembler plus attrayants, cela soulève des préoccupations quant à la fiabilité des données obtenues et à leur capacité à représenter de manière authentique des traits de personnalité humains. Ce phénomène pourrait également fausser l’interprétation des résultats obtenus à partir de ces modèles, désormais considérés comme des outils potentiels d’analyse psychologique.
EN BREF
|
