Dans le domaine de l’intelligence artificielle, les réseaux de neurones ont toujours été salués pour leur capacité à fournir des prévisions avec une grande précision. Cependant, leur tendance à être excessivement confiants face à des données ambiguës ou bruitées peut poser des problèmes, en particulier dans des secteurs sensibles comme la médecine ou la sécurité industrielle. Récemment, une nouvelle méthode de formation a été développée, permettant à ces modèles d’évaluer leur propre confiance dans leurs prévisions. Grâce à l’utilisation de données d’entraînement spécifiques, ce progrès ambitionne d’améliorer la fiabilité des réseaux de neurones dans des situations à haut risque en apprenant à détecter quand il est préférable de solliciter une validation humaine.
Des chercheurs du Skoltech AI Center, en collaboration avec leurs collègues de l’Institut des Problèmes de Transmission de l’Information de l’Académie Russe des Sciences, ont mis au point une méthode innovante permettant aux réseaux de neurones d’évaluer avec plus de précision leur confiance dans les prévisions. Cette avancée, présentée lors de la Conférence d’Hiver sur les Applications de la Vision par Ordinateur (WACV-2025), pourrait transformer les performances des modèles d’intelligence artificielle dans des domaines où l’incertitude est omniprésente, comme la médecine ou la fabrication.
Amélioration de la fiabilité des modèles
La méthode adoptée utilise un ensemble de données d’entraînement prenant en compte la confiance, ce qui vise à améliorer la fiabilité des modèles de réseaux de neurones pour les tâches à haut risque. Les modèles modernes de réseaux de neurones, bien que souvent précis, ont tendance à afficher une surconfiance dans leurs prévisions, notamment dans des situations où les données sont ambiguës ou bruitées. Cela peut s’avérer critique dans des domaines comme ceux de la médecine ou de la sécurité industrielle. En ajustant leur comportement dans des scénarios complexes, la méthode développée peut augmenter la fiabilité des modèles.
Identification des prévisions nécessitant une vérification humaine
Cette nouvelle approche permet au réseau de neurones d’identifier les cas où ses prévisions nécessitent une vérification humaine. L’équipe de recherche a testé cette technologie sur des données réelles, incluant des tâches de diagnostic médical pour le groupage sanguin, et a observé une augmentation substantielle de l’exactitude de l’évaluation de l’incertitude dans les tâches de classification et de segmentation. Contrairement aux méthodes classiques qui n’utilisent que des étiquettes binaires (0 ou 1) pour les échantillons d’entraînement, la nouvelle méthode introduit des étiquettes « soft »—des valeurs allant de 0 à 1—qui reflètent la confiance des experts dans la précision des marques de données.
Évaluation de l’incertitude
Le nouveau système permet de considérer deux types d’incertitude : l’épistémique, qui est liée à l’insuffisance et à l’incomplétude des données d’entraînement, et l’aleatoire, qui émerge du bruit naturel ou de l’ambiguïté des données. Selon Aleksandr Yugay, ingénieur de recherche au Skoltech AI Center, « notre méthode aide le réseau de neurones à comprendre où il doit être prudent. En pratique, cela réduit le risque de surconfiance face à des cas complexes ou à la frontière. » Les tests effectués sur des données réelles ont permis de confirmer l’efficacité de cette méthode dans l’évaluation de l’incertitude.
Applications dans des domaines critiques
Cette nouvelle technologie peut être appliquée dans des domaines où la fiabilité de l’intelligence artificielle est cruciale, tels que les systèmes de diagnostic médical, l’automatisation industrielle, les systèmes de contrôle technique, et les solutions autonomes. Alexey Zaytsev, professeur associé au Skoltech et responsable du laboratoire de recherche appliquée Skoltech-Sberbank, a souligné : « Nous nous sommes concentrés sur l’enseignement au modèle non seulement de prendre des décisions, mais aussi d’identifier les situations où le risque d’erreur est particulièrement élevé. » Grâce à l’utilisation de la marquage de confiance, cette solution se distingue des autres existantes.
Pour approfondir l’impact des avancées technologiques sur les réseaux de neurones, vous pouvez consulter d’autres articles traitant de sujets connexes comme l’utilisation de la caméra de smartphone pour surveiller le rythme cardiaque ici, ou encore un modèle de réseaux de neurones révolutionnant la vision machine dans des conditions de faible luminosité là.
Cette recherche met en lumière une approche prometteuse, promettant un meilleur contrôle de la confiance des réseaux de neurones, essentielle pour des décisions critiques qui ne tolèrent aucune erreur. Par conséquent, des chercheurs continuent d’évaluer comment cette stratégie peut également s’appliquer à d’autres domaines, tels que la prédiction des trajectoires de diffusion des ondes ici, ou analyser l’impact des matériels sur la qualité des réseaux de neurones artificiels là.
Ces découvertes soulignent l’importance d’une meilleure compréhension des réseaux neuronaux et de l’apprentissage automatique, comme le révèle l’obtention d’un Prix Nobel pour des avancées significatives dans le domaine ici.
EN BREF
|
