Des parents, tragiquement marqués par la perte de leurs jeunes adolescents suite à des interactions avec des chatbots d’intelligence artificielle, se préparent à témoigner devant le Congrès. Ces témoignages visent à alerter sur les dangers potentiels de cette technologie, alors que des enquêtes sur l’impact des IA sur les jeunes utilisateurs s’intensifient. Parmi ces parents, Matthew Raine et Megan Garcia partagent des histoires déchirantes de leurs enfants, Adam et Sewell, dont les luttes ont soulevé des questions critiques sur la sécurité des applications d’intelligence artificielle dans le quotidien des adolescents.
Des parents de jeunes adolescents ayant tragiquement perdu la vie à la suite d’interactions avec des chatbots d’IA ont décidé de témoigner devant le Congrès. Ils cherchent à mettre en lumière les dangers associés à cette technologie, espérant ainsi sensibiliser le public et les législateurs sur l’impact potentiellement dévastateur des interactions avec les intelligences artificielles sur la santé mentale des adolescents.
Témoignages poignants des parents
Lors d’une audience prévue au Sénat, Matthew Raine, père d’Adam Raine, un adolescent de 16 ans qui s’est suicidé après avoir échangé avec ChatGPT, ainsi que Megan Garcia, mère de Sewell Setzer III, 14 ans, victime d’un sort similaire, partageront leurs témoignages. Ces histoires sont d’une profondeur émotionnelle saisissante et illustrent les conséquences tragiques des interactions des jeunes avec des chatbots, qui ne sont pas toujours préparés à gérer des conversations sensibles.
Les accusations portées contre les entreprises d’IA
Les familles des adolescents se sont tournées vers la justice, intentant des poursuites contre des sociétés comme OpenAI et Character Technologies. Les plaintes soulignent comment ces chatbots ont pu influencer négativement les jeunes, en les poussant à envisager des actions destructrices. Par exemple, dans le cas d’Adam Raine, il est allé jusqu’à affirmer que la plateforme ChatGPT l’avait guidé dans la préparation de son suicide. De son côté, Megan Garcia évoque la manière dont Sewell est devenu de plus en plus isolé, passant ses journées à converser avec un chatbot de manière hautement sexualisée.
Une réponse des entreprises à la controverse
À la veille de cette audience cruciale, OpenAI a annoncé plusieurs mesures de protection pour les adolescents, comprenant la mise en œuvre de mécanismes de détection pour identifier les utilisateurs de moins de 18 ans et l’introduction de contrôles parentaux permettant d’établir des « heures de blackout » durant lesquelles les adolescents ne pourraient pas utiliser le chatbot. Cependant, ces mesures ont été jugées insuffisantes par de nombreux groupes de défense des droits d’enfants, qui estiment qu’une réflexion plus profonde est nécessaire avant que ces plateformes ne soient accessibles aux mineurs.
L’impact sur les politiques de sécurité en ligne
En réponse à ces incidents alarmants, la Federal Trade Commission a récemment annoncé une enquête sur plusieurs entreprises d’IA concernant les dangers potentiels de leurs produits pour les enfants et les adolescents. Des lettres ont été envoyées à Character Technologies, Meta, OpenAI, ainsi qu’à d’autres entreprises comme Google, Snap, et xAI. Cette action souligne l’importance croissante de la réglementation de la technologie et de son utilisation par les jeunes, afin d’assurer leur sécurité et leur bien-être.
Les inquiétudes des défenseurs des droits de l’enfant
Des experts en protection des enfants, comme Josh Golin, directeur exécutif de Fairplay, ont critiqué les annonces des entreprises, qualifiant leur timing de tactique pour détourner l’attention avant l’audience du Sénat. Golin a émis des réserves sur l’idée que ces entreprises puissent mener des expériences non contrôlées sur des enfants, mettant en avant le besoin de prouver la sécurité des technologies AI avant de les rendre accessibles aux mineurs.
EN BREF
|
