Les avancées récentes en intelligence artificielle ont permis de développer des modèles linguistiques de grande envergure, notoirement puissants mais également sujets à des incohérences. L’un des défis majeurs auxquels ces modèles font face est la gestion de l’incertitude quant aux réponses fournies. Un nouvel algorithme, conçu par des chercheurs de l’ETH Zurich, propose une solution innovante pour améliorer la fiabilité des réponses de l’IA tout en optimisant la charge computationnelle. Grâce à des méthodes de sélection d’informations ciblées, cet algorithme permet d’enrichir les modèles en se basant sur des données spécifiques, réduisant ainsi les erreurs et l’utilisation de ressources informatiques.
Des chercheurs de l’Institut d’apprentissage automatique à l’ETH Zurich ont récemment développé un nouvel algorithme, qui cible la fiabilité des réponses des modèles de langage tout en diminuant la charge computationnelle nécessaire. Cet algorithme, connu sous le nom de SIFT (Selecting Informative data for Fine-Tuning), offre une méthode innovante permettant d’enrichir les modèles d’IA avec des données spécifiques, améliorant ainsi la pertinence des réponses, et ce, de façon plus économe en ressources.
La problématique des réponses des modèles de langage
Les modèles de langage, comme ChatGPT, impressionnent souvent par la qualité de leurs réponses. Cependant, ils restent également sujets à des erreurs pouvant semer le doute. Ces modèles, bien qu’ultra performants, peuvent produire à la fois des réponses précises et des informations sans fondement avec la même aisance. Un des principaux défis réside dans la gestion de l’incertitude, qui a longtemps rendu difficile l’évaluation de la fiabilité de leurs résultats. La recherche se concentre donc sur l’optimisation de ces outils pour fournir des réponses plus fiables et moins ambiguës.
Enrichir les modèles d’IA avec des données spécifiques
Le nouvel algorithme développé par les chercheurs de l’ETH Zurich permet d’enrichir le modèle de langage général d’une IA avec des données issues d’un domaine d’expertise limité. Selon Jonas Hübotter, qui a élaboré cette méthode dans le cadre de ses travaux de doctorat, « notre algorithme peut ajouter des données supplémentaires provenant de domaines pertinents à une question posée ». Cette approche s’avère particulièrement bénéfique pour des entreprises, des scientifiques ou d’autres utilisateurs qui souhaitent appliquer l’IA à des secteurs spécifiques souvent mal couverts par les données d’apprentissage classiques.
Le fonctionnement du SIFT
La technologie SIFT utilise la structure des informations linguistiques organisées au sein du modèle de langage. Les informations sont divisées en parties mots, et les relations entre ces parties sont représentées par des vecteurs dans un espace multidimensionnel. La direction de ces vecteurs permet de déterminer la correlation entre les informations, ainsi que leur pertinence pour une question donnée. Par exemple, des vecteurs orientés dans la même direction indiquent une forte corrélation, tandis que des angles plus larges suggèrent une moins grande pertinence.
La réduction de l’information redondante
Auparavant, la méthode la plus courante pour sélectionner les informations consistait à utiliser une approche basée sur le voisinage, qui tendait à produire des résultats redondants. Le SIFT surmonte ce problème en s’assurant que les données sélectionnées se complètent, permettant ainsi de répondre de manière plus ciblée aux différentes facettes d’une question complexe. Cela évite des mélanges d’informations non pertinentes entraînant des erreurs dans les réponses générées.
Réponses fiables avec des modèles plus petits
Un autre grand avantage de l’algorithme SIFT est sa capacité à réduire la puissance de calcul requise pour les applications d’IA. En mesurant indirectement l’incertitude, le modèle peut évaluer combien de données supplémentaires sont nécessaires pour fournir une réponse suffisamment fiable. Cette technique permet ainsi d’adapter systématiquement les ressources computationnelles à la complexité de la question, tout en gagnant en efficacité.
Une évaluation des données enrichissantes
Le SIFT ouvre également des perspectives pour l’évaluation des données utilisées. L’algorithme peut identifier les données enrichissantes les plus pertinentes par rapport à une question spécifique, ayant de grandes potentiels dans des domaines comme la médecine, où il serait possible de déterminer les analyses ou mesures cruciales pour un diagnostic particulier. Cela pourrait considérablement améliorer la qualité des décisions médicales.
En bref, avec l’algorithme SIFT, les réponses de l’IA peuvent devenir de plus en plus fiables tout en nécessitant moins de ressources. La recherche dans ce domaine est en plein essor et pourrait avoir des répercussions importantes sur l’utilisation des intelligences artificielles. Pour explorer davantage sur l’application de l’IA dans divers domaines, vous pouvez consulter ces liens intéressants : La surveillance cérébrale et son potentiel, Une batterie fluide adaptable, L’IA pour tous, Surveillance des sites nucléaires, et Anticipation des défaillances matérielles.
EN BREF
|
