Dans le domaine de l’intelligence artificielle, les chatbots sont devenus des outils incontournables pour l’interaction et le traitement de l’information. Cependant, leur utilisation pose des défis considérables en matière de sécurité, notamment face aux tentatives d’évasion connues sous le nom de jailbreak. Récemment, l’entreprise Anthropic a développé un innovant système de sécurité désigné sous le nom de classificateurs constitutionnels. Ce système a pour objectif de filtrer et de prévenir les tentatives de contournement des protections mises en place, assurant ainsi une utilisation plus sûre et contrôlée de ces modèles de langage avancés.
Un groupe d’ingénieurs informatiques et de spécialistes en sécurité de l’entreprise Anthropic a conçu un nouvel outil appelé classificateurs constitutionnels. Ce système vise à protéger les modèles de langage de type chatbot contre les évasions, communément appelées jailbreaks. La méthode promet non seulement de compenser de nombreux tentatives de contournement des mesures de sécurité existantes, mais aussi d’améliorer l’efficacité globale dans le traitement des requêtes inoffensives.
Contexte des évasions des chatbots
Depuis l’émergence des chatbots à usage public, divers utilisateurs ont cherché à contourner les restrictions imposées par les concepteurs afin d’obtenir des réponses à des questions délicates, telles que des instructions sur des activités illégales. Les constructeurs de chatbots ont sans cesse renforcé leur sécurité pour empêcher les utilisateurs d’exploiter ces outils à des fins nuisibles. Cependant, face à des utilisateurs déterminés, ces tentatives de protection se sont révélées de moins en moins efficaces.
Les défis des mesures de sécurité traditionnelles
Malgré l’introduction de multiples niveaux de sécurité, les tentatives de jailbreak ont continué d’augmenter. Des utilisateurs astucieux ont découvert que la reformulation de leurs questions pouvait contourner les filtres en place. Cela a conduit à l’émergence de ce qu’on appelle des évasions universelles, qui permettent d’outrepasser l’ensemble des protections d’un chatbot, les plaçant dans un état où ils peuvent prodiguer des conseils inappropriés ou dangereux.
Les classificateurs constitutionnels : une innovation en matière de sécurité
La nouveauté apportée par les classificateurs constitutionnels réside dans leur capacité à analyser les requêtes et les réponses fournies par les chatbots. Anthropic décrit ce système comme étant en mesure de bloquer la majorité des tentatives de jailbreak tout en présentant un faible taux de refus de requêtes inoffensives. En se basant sur un ensemble de valeurs humaines énoncées dans une « constitution », les concepteurs ont établi des catégorisations claires de ce qui constitue un contenu nuisible ou inoffensif.
Développement et test du système
Pour concevoir ce système, l’équipe a généré une base de données comprenant 10 000 requêtes potentiellement problématiques, qui avaient déjà été utilisées dans des tentatives de jailbreak. Ces requêtes ont été traduites dans différentes langues et reformulées dans divers styles d’écriture pour diminuer la probabilité que des termes similaires parviennent à franchir les barrages de sécurité. Après avoir réussi à créer un ensemble robuste de données, le système a été testé sur le modèle Claude 3.5 Sonnet, sans la nouvelle couche de protection.
Résultats de l’implémentation
Les résultats des tests initiaux ont montré qu’un impressionnant 86 % des tentatives de jailbreak étaient couronnées de succès avec le modèle initial. Cependant, après intégration des classificateurs constitutionnels, ce chiffre a chuté à seulement 4,4 %. Anthropic a ensuite proposé ce modèle aux utilisateurs, incitant à tester sa robustesse avec une récompense de 15 000 dollars pour toute réussite dans le contournement du système. Plus de 180 utilisateurs ont tenté leur chance, mais aucun n’a réussi à obtenir la récompense.
Perspectives d’avenir
Les classificateurs constitutionnels représentent une avancée significative dans la lutte pour sécuriser les chatbots contre les abus. En continuant à adapter et à affiner ce système, les concepteurs d’Anthropic espèrent non seulement renforcer la sécurité, mais également développer des modèles d’intelligence artificielle plus résistants aux manipulations.
Pour approfondir les implications de cette technologie, il est intéressant de se pencher sur des travaux connexes tels que Oublis en boîte noire : une nouvelle approche pour personnaliser les grands modèles d’IA ou encore Un agent multimodal : un concepteur d’expériences itératives pour explorer en profondeur les composantes des systèmes d’IA.
EN BREF
|
