Des éthiciens questionnent si les créateurs de modèles linguistiques ont une obligation légale d’assurer leur fiabilité

L’essor fulgurant des modèles linguistiques alimenté par l’intelligence artificielle soulève des questions éthiques et juridiques de plus en plus pressantes. Parmi celles-ci, la responsabilité des créateurs de tels modèles quant à leur fiabilité est au cœur des débats. Les éthiciens s’interrogent sur la possibilité d’une obligation légale qui pourrait contraindre ces concepteurs à garantir la précision et l’exactitude des contenus générés. À une époque où les informations peuvent se propager rapidement et influencer les opinions publiques, la notion de fiabilité devient cruciale. Ainsi, il est essentiel d’explorer si les fondements de notre cadre légal actuel sont adaptés pour répondre aux défis que posent ces technologies émergentes, tout en tenant compte des valeurs éthiques qui sous-tendent leur développement et leur utilisation.

Les enjeux de la fiabilité des modèles linguistiques de grande taille

À l’ère de la numérisation, les modèles linguistiques de grande taille (LLM) jouent un rôle prépondérant dans des domaines variés, allant de l’éducation à la santé. Cependant, leur propension à générer des erreurs, parfois considérables, pose des questions cruciales sur leur fiabilité et sur les responsabilités des entreprises qui les développent.

Les propositions des éthiciens

Des chercheurs de l’Oxford Internet Institute suggèrent des mesures pour améliorer la fiabilité des LLM. Parmi ces propositions, certaines visent à ajouter des fonctionnalités permettant aux utilisateurs de mieux juger de la véracité des réponses fournies. Par exemple :

• Intégrer des citations dans les réponses pour appuyer les affirmations.
• Indiquer le niveau de confiance associé à chaque réponse.

La pertinence de l’exactitude des informations générées

Il est souligné que les LLM devraient avoir une obligation légale d’assurer une plus grande exactitude des informations qu’ils délivrent, surtout quand ils sont utilisés dans des secteurs critiques comme la santé. Par exemple, limiter l’entraînement des LLM à des sources de données dignes de confiance comme les revues académiques pourrait grandement améliorer leur fiabilité.

L’impossibilité technique actuelle et ses implications

Les chercheurs admettent que, compte tenu de l’état actuel de la technologie, il n’est pas faisable de produire des modèles qui fournissent uniquement des réponses correctes et raisonnables. Néanmoins, ils insistent sur le fait que cela ne devrait pas exempter les entreprises de toute responsabilité.

Les domaines d’application et leurs risques

Les LLM sont de plus en plus utilisés dans diverses sphères qui nécessitent d’importantes précisions dans les réponses générées. Les étudiants, par exemple, utilisent ces technologies pour leurs devoirs, et les employés des secteurs publics et privés s’en servent pour mener des affaires sérieuses. La possibilité d’erreurs majeures dans ces contextes pose des risques considérables.

Recommandations des chercheurs

Les éthiciens suggèrent d’établir une obligation légale pour les créateurs de LLM d’améliorer la véracité et l’exactitude de leurs produits. Parmi les pistes proposées, en voici deux principales :

• Générer des réponses accompagnées de citations pour que les utilisateurs puissent vérifier leur validité.
• Introduire des mécanismes indiquant le niveau de confiance attaché à chaque réponse, afin d’éviter des affirmations potentiellement erronées.

Considérations futures

Avec l’usage croissant des modèles linguistiques comme sources principales d’information, la pertinence de ces débats sur la fiabilité et la responsabilité juridique ne fera que s’accroître. Adopter des mesures pour encadrer leur utilisation pourrait s’avérer essentiel pour minimiser les risques associés à leur déploiement dans des environnements sensibles.