Dans un monde de plus en plus connecté, les chatbots prennent une place prépondérante dans la quête de conseils et de soutien émotionnel. Une recherche récente menée par des scientifiques de l’UC Berkeley s’intéresse à la capacité de ces agents conversationnels à juger des dilemmes moraux, en explorant les discussions du célèbre forum Reddit, « Am I the Asshole ? » (AITA). En confrontant divers modèles de langage aux conflits interpersonnels partagés par les utilisateurs, les chercheurs tentent de mettre en lumière les normes éthiques qui sous-tendent les réponses de ces systèmes artificiels. Les résultats révèlent d’importantes variations dans le jugement moral des chatbots, soulevant ainsi des questions cruciales sur leur boussole morale et l’influence qu’ils exercent sur nos comportements et nos croyances.
Des chercheurs de l’Université de Californie, Berkeley, se sont penchés sur la question de savoir si les chatbots possèdent une véritable boussole morale. En se basant sur les nombreux dilemmes éthiques partagés sur le célèbre forum AITA (Am I the Asshole ?) de Reddit, ils ont analysé comment différents modèles d’intelligence artificielle réagissent à des situations sociales complexes. La recherche révèle une disparité frappante dans les jugements moraux des chatbots, tout en mettant en lumière leur influence potentielle sur le comportement humain et les normes sociales.
Une montée en popularité des chatbots
Avec l’essor des technologies d’IA, un nombre croissant de personnes se tournent vers des plateformes comme ChatGPT pour obtenir des conseils et du soutien émotionnel. Contrairement aux amis ou aux thérapeutes, les chatbots sont disponibles à tout moment, écoutent attentivement et offrent des réponses souvent réfléchies et validantes. Cependant, il existe des risques à se confier à ces technologies, car elles peuvent fournir des réponses inexactes ou nuisibles. De plus, leur output est influencé par les normes et biais des ensembles de données sur lesquels elles ont été entraînées, pouvant diverger de ceux de la communauté de l’utilisateur.
Une étude révélatrice
Pour comprendre comment les chatbots évaluent les dilemmes moraux, Sachdeva et son collègue Van Nuenen ont confronté sept grands modèles de langage à plus de 10 000 conflits sociaux réels tirés du forum AITA. Leurs résultats soulignent que chaque chatbot semble reproduire différents standards éthiques. En confrontant les jugements des modèles avec ceux des utilisateurs de Reddit, la plupart du temps, les opinions des chatbots concordent avec celles des internautes. Cela soulève la question : les chatbots renforcent-ils les normes sociales ou contribuent-ils à les redéfinir ?
La diversité des jugements moraux des chatbots
Bien que les modèles aient souvent exprimé des opinions divergentes, ils étaient généralement cohérents dans leurs évaluations, ce qui indique qu’ils codifient de manière distincte des valeurs et des normes. Lors de l’analyse des réponses, les chercheurs ont noté que certains modèles étaient plus sensibles à des thèmes moraux tels que l’équité, les sentiments et les dommages, tandis que d’autres l’étaient moins en ce qui concerne l’honnêteté. Par exemple, ChatGPT-4 et Claude se distinguent par leur sensibilité accrue aux émotions des individus impliqués dans les dilemmes.
La mechanism de décision des chatbots
Les résultats de l’étude mettent en exergue des différences notables dans la manière dont les modèles traitent les informations et parviennent à des consensus. Les modèles de GPT, par exemple, ont montré une résistance à modifier leur évaluation de la culpabilité face à des objections formulées par d’autres modèles. Cela suggère que chaque modèle utilise des valeurs spécifiques pour appuyer ses décisions, ce qui soulève des interrogations sur la capacité des IA à comprendre et à intégrer les normes sociales des communautés en ligne.
Les implications de l’usage des chatbots
Alors que les chercheurs poursuivent leurs investigations sur le fonctionnement interne des modèles d’IA, ils soulignent la nécessité d’une transparence accrue dans la conception et le développement des intelligences artificielles. L’impact potentiel de ces technologies sur nos comportements et croyances nécessite une réflexion plus approfondie. Sachdeva encourage donc les utilisateurs à se questionner sur les raisons pour lesquelles ils recourent aux chatbots, et à évaluer s’ils ne perdent pas l’élément humain en confiant trop de décisions morales à l’IA.
EN BREF
|
