L’émergence de l’intelligence artificielle a transformé de nombreux domaines, allant de la planification d’itinéraires à la traduction de textes. Toutefois, il est devenu essentiel que ces systèmes non seulement produisent des résultats utiles, mais également qu’ils respectent des normes légales, éthiques et sociales. Une équipe de recherche à l’Université technique de Vienne a développé une approche innovante qui combine apprentissage automatique et logique afin de former des agents autonomes capables de se conformer à des normes prédéfinies. Cette méthode permet même d’établir une hiérarchie des normes, offrant ainsi une flexibilité considérable dans la gestion des règles auxquelles ces agents doivent se conformer.
Dans un contexte où l’intelligence artificielle s’impose comme un outil incontournable, de nouveaux défis émergent concernant sa capacité à respecter des normes légales, éthiques et sociales. Des chercheurs de l’Université technologique de Vienne ont dévoilé une approche innovante, alliant apprentissage automatique et logique, permettant aux agents autonomes d’intégrer ces normes de manière efficace. Cette avancée a été reconnue par le Distinguished Paper Award lors de la conférence IJCAI 2025 à Montréal.
La méthode de l’apprentissage par renforcement
L’enseignement des règles à une IA se rapproche parfois de l’apprentissage d’un animal de compagnie : la récompense fait suite à un bon comportement, tandis que la punition sanctionne les erreurs. L’apprentissage par renforcement est une stratégie clé utilisée dans la recherche sur l’IA pour maximiser les résultats. Selon le professeur Agata Ciabattoni de l’Institut de logique et d’informatique à l’TU Wien, bien que cette méthode fonctionne pour des contraintes de sécurité, elle est moins efficace pour des normes conditionnelles.
Des normes représentées comme des formules logiques
Les chercheurs de l’TU Wien ont choisi une approche différente en s’inspirant de la philosophie classique : les normes sont représentées par des formules logiques, entraînant une punition en cas de non-respect. Par exemple, la norme « vous ne devez pas dépasser la limite de vitesse » est formalisée par « si vous dépassez la limite, vous subissez une punition de X ». Ainsi, chaque norme est traitée comme un objectif indépendant, ce qui permet d’établir une hiérarchie et de mieux gérer le respect de celles-ci.
Un système flexible d’adaptation aux normes
Un des avantages majeurs de cette approche est sa flexibilité. Comme l’explique Agata Ciabattoni, lorsque les normes évoluent, la formation de l’IA n’a pas besoin d’être redémarrée. Le système est capable d’apprendre à se conformer aux règles, permettant ensuite de modifier ou d’ajuster leur importance. Cela est crucial dans des domaines où les circonstances peuvent rapidement changer.
Applications possibles et enjeux futurs
Cette méthode offre des perspectives intéressantes pour de nombreux domaines, rendant possible l’application de normes complexes et conditionnelles. Par exemple, dans le cadre de la mobilité autonome, il devient possible de définir un ensemble de règles de conduite qui tiennent compte non seulement de la sécurité, mais aussi des réglementations locales. Ce type de développement va au-delà des simples règles de conduite, touchant à des questions de respect des lois sur la protection des données, comme celle imposée à YouTube pour garantir l’accès des utilisateurs à leurs données personnelles.
Alors que des entreprises comme OpenAI et Meta se concentrent sur l’amélioration de la communication des chatbots, il est essentiel d’explorer comment ces agents peuvent naviguer dans un paysage de normes changeant, garantissant que leur interaction, notamment avec des adolescents en détresse, respecte des standards éthiques supérieurs. De même, l’émergence de robots dotés d’un cerveau collectif introduit un nouveau niveau d’intelligence partagée, soulevant des questions cruciales sur la gouvernance des normes dans ces systèmes multiplaient.
Ces avancées témoignent d’un potentiel immense pour façonner l’avenir de l’intelligence artificielle, permettant à des appareils intelligents de fonctionner en harmonie avec les principes éthiques et sociétaux. Le rapprochement entre logique et machine learning pourrait bien être la clé pour atteindre un équilibre entre performance et conformité aux normes. Pour en savoir plus sur les défis que pose l’IA dans notre société, consultez des articles sur des sujets variés, tels que les impacts des vidéos d’entretiens en bikini sur le sexisme en ligne ou les implications de l’apprentissage automatique pour une accessibilité accrue.
EN BREF
|
