Dans un monde où l’intelligence artificielle joue un rôle de plus en plus prépondérant dans nos vies quotidiennes, la question de sa capacité à prendre des décisions éthiques et à évaluer des situations sur le plan moral devient cruciale. L’expérience Delphi se penche sur cette problématique en cherchant à doter une intelligence artificielle de capacités de jugement moral. En s’appuyant sur des modèles computationnels avancés, cette initiative vise à explorer comment une machine peut discerner le juste du faussé, tout en soulevant des interrogations profondes sur le rapport entre l’homme et la technologie, et sur la manière dont ces avancées peuvent influencer nos choix éthiques.
La question du jugement moral des intelligences artificielles (IA) est au cœur de l’actualité technologique. Dans ce contexte, l’expérience Delphi, menée par des chercheurs de l’Université de Washington et de l’Allen Institute for Artificial Intelligence, vise à explorer comment les machines peuvent acquérir des capacités éthiques similaires à celles des humains. Cette initiative soulève d’importantes réflexions sur l’avenir de l’IA et ses implications éthiques, notamment en matière d’automatisation et de prise de décision.
Contexte et objectifs de l’expérience Delphi
Avec l’émergence des outils d’IA avancés, tels que les agents conversationnels basés sur des modèles de langage, il est devenu essentiel d’intégrer des principes moraux dans leurs algorithmes. Les chercheurs ont identifié un besoin croissant de fournir aux agents IA la capacité de discernement entre le bien et le mal, particulièrement lors de la réponse à des questions quotidiennes imprégnées de nuances éthiques.
Le projet Delphi a été conçu pour relever ce défi. Son objectif principal est d’explorer les possibilités et les limitations liées à l’incorporation des valeurs humaines dans les systèmes d’IA. En formant un agent IA sur un manuel moral tiré de la crowdsourcing, les chercheurs cherchent à enseigner à l’IA comment prédire les jugements moraux des humains dans diverses situations.
Les fondements de la modélisation du jugement moral
Une des innovations clés de l’expérience Delphi est le développement d’un nouveau modèle computationnel, également appelé Delphi, permettant d’examiner les forces et les faiblesses de la moralité machine. La modélisation repose sur un ensemble de données riche, constitué de 1,7 million de jugements moraux humains sur des situations ordinaires.
Les fondateurs de ce projet, dont Liwei Jiang, ont souligné que la modélisation des valeurs morales humaines est un défi de taille, car même les humains ne parviennent pas à un consensus sur leurs propres normes éthiques. Le modèle Delphi est basé sur Unicorn, un modèle de raisonnement de bon sens, qui apporte des connaissances contextuelles profondes nécessaires à la prise de décisions éthiques.
Les résultats et les implications de l’expérience
Les résultats préliminaires de l’expérience montrent que Delphi est capable de générer des prédictions pertinentes concernant des situations éthiques complexes, témoignant d’unecapacité à généraliser et à s’adapter à différents contextes. Par exemple, lorsque l’on pose une question sur la responsabilité morale d’actions telles que conduire sans permis ou demander à un enfant de toucher une prise électrique, l’IA fournit des réponses nuancées, reflétant une appréhension raffinée des enjeux moraux.
Cependant, certains biais ont également été identifiés dans les réponses de Delphi, mettant en lumière la nécessité de combler ces lacunes pour améliorer ses capacités éthiques. Les chercheurs ont proposé un approche hybride pour surmonter ces biais, combinant le savoir-faire du bas vers le haut avec des contraintes d’ordre supérieur.
Perspectives d’avenir pour l’intelligence artificielle
Alors que Delphi reste un prototype de recherche, son développement soulève des questions cruciales quant à la responsabilité éthique dans l’application des systèmes d’IA. Les chercheurs espèrent que cette initiative servira de tremplin pour d’autres groupes de recherche souhaitant créer des systèmes d’IA plus inclusifs, socialement conscients et respectueux des valeurs humaines.
L’expérience Delphi illustre également le défi de l’adaptation des systèmes d’IA à une pluralité de valeurs qui varient d’une société à l’autre. Cette diversité doit être prise en compte pour développer une IA qui puisse raisonnablement et éthiquement interagir avec les utilisateurs de différentes cultures et contextes sociaux, ouvrant ainsi la voie à un nouveau domaine de recherche : l’alignement des valeurs pluralistes.
EN BREF
|
