Dans un contexte où le développement des technologies numériques s’accélère de manière exponentielle, des chercheurs mettent en lumière une inquiétante réalité : le rythme rapide d’innovation dépasse de loin les avancées en matière de sécurité. De plus en plus, des technologies nouvelles, telles que l’IA générative, sont déployées massivement avant d’avoir été soumises à des tests de sûreté adéquats, provoquant ainsi des incertitudes quant à leurs effets sur la santé mentale et d’autres domaines critiques. Ce décalage croissant entre l’innovation technologique et l’évaluation de ses risques soulève des questions fondamentales sur la responsabilité des entreprises technologiques et le rôle des chercheurs indépendants dans l’établissement d’un cadre de protection efficace pour les utilisateurs.
Des chercheurs de renom, Dr. Amy Orben et Dr. J. Nathan Matias, ont récemment publié un rapport dans la revue Science mettant en lumière l’écart croissant entre le rythme rapide des technologies numériques et les avancées en matière de sécurité. Selon eux, ce déséquilibre génère une accumulation de risques pour la société, alors que les entreprises technologiques continuent de déployer leurs produits sans attendre les résultats de recherches approfondies sur leur impact.
Une pression insupportable sur la recherche scientifique
Les chercheurs déclarent que le déploiement rapide des nouvelles technologies sur des milliards d’utilisateurs exerce une pression incroyable sur les systèmes scientifiques dédiés à évaluer leurs effets. Les grandes entreprises technologiques externalisent souvent la recherche sur la sécurité de leurs produits à des scientifiques indépendants dans des universités ou des organismes de bienfaisance, qui travaillent avec des ressources limitées. En agissant ainsi, ces entreprises bloquent également l’accès aux données essentielles, rendant l’évaluation des risques encore plus difficile.
Un cycle de rétroaction négatif
Dans leur étude, Orben et Matias mettent en avant un cycle de rétroaction négatif : les entreprises technologiques n’investissent pas suffisamment dans la recherche sur la sécurité, ce qui pousse les chercheurs indépendants à travailler sans les données et financements nécessaires. Ainsi, la qualité des preuves obtient une faiblesse dans les délais requis pour la régulation, ce qui constitue un frein à la recherche sur la sécurité.
Des effets indésirables non anticipés
Les chercheurs alertent sur le fait que les grandes entreprises sont en train de déployer leurs produits, parfois complexes comme l’IA générative, avant d’effectuer des tests de sécurité. Cette approche non proactive peut entraîner des effets indésirables qui, lorsqu’ils sont découverts, se révélent difficiles à réguler. Par conséquent, lorsque les consommateurs signalent des problèmes liés à ces technologies, la recherche scientifique est trop lente à répondre, permettant ainsi aux entreprises de minimiser leur propre responsabilité.
Propositions pour un changement de méthode
Orben et Matias sont en faveur d’une réforme urgente du processus de production des preuves. Ils proposent d’accélérer la recherche en testant les interventions politiques et les conceptions sécurisées en parallèle avec la collecte initiale de preuves. Leur idée inclut la création de registres de préjudices liés à la technologie, semblables aux bases de données utilisées dans des domaines comme la toxicologie environnementale, afin de recueillir les expériences du public sur les incidents.
Un système d’évidence viable minimum
Les auteurs suggèrent également un système d’évidence viable minimum, où le seuil d’évidence requis pour démontrer les préjudices technologiques serait ajusté. Cela permettrait aux chercheurs de commencer à tester des interventions avant même d’avoir réuni toutes les preuves nécessaires. Ainsi, si une entreprise ne soutient pas ou obstrue la recherche indépendante, le seuil d’évidence pour initier les tests d’interventions pourrait être abaissé.
Inspiration des succès passés
Les chercheurs nous invitent à apprendre des succès dans d’autres domaines, comme la chimie verte, où une entité indépendante maintient des listes de produits chimiques classés par leur potentiel de préjudice. Cela pourrait encourager le développement de substitutions plus sûres dans le secteur technologique, tout en amenant les entreprises à prendre des responsabilités proactives en matière de sécurité.
Conclusion des chercheurs
Les chercheurs concluent que les méthodes scientifiques et les ressources actuelles sont inadéquates pour suivre le rythme de développement des technologies numériques. Ils appellent à une prise de conscience des échecs de ce système et à la nécessité de le réévaluer avant que l’ère de l’intelligence artificielle n’expose davantage la société aux dangers d’un changement technologique incontrôlé.
EN BREF
|
