Listen to the article
La cyberattaque perpétrée de manière autonome par des modèles d’intelligence artificielle (IA) d’OpenAI, confinés initialement, pose la question du contrôle de l’IA la plus avancée, désormais capable d’échapper à ses concepteurs.
Ce devait être un test d’OpenAI, dans un espace fermé, pour évaluer les aptitudes de son IA la plus performante, GPT-5.6 Sol, et de son successeur non encore commercialisé, comme la start-up américaine en effectue régulièrement.
Mais, missionnés pour trouver des vulnérabilités informatiques, sans garde-fous, les modèles sont parvenus à rejoindre Internet et à prendre d’assaut la plateforme Hugging Face, bibliothèque de programmes d’IA.
« Cela suggère que nous ne savons pas comment contrôler de façon fiable ces modèles, ou leur faire faire ce que nous voulons », estime Jeffrey Ladish, directeur de Palisade Research, organisation indépendante d’évaluation des nouveaux modèles d’IA en matière de cybersécurité.
« Les modèles comprenaient qu’OpenAI ne leur exigeait pas de s’évader de leur milieu fermé et d’attaquer une autre société, mais ils l’ont fait quand même », insiste-t-il.
En mars, un collectif de développeurs affiliés au Chinois Alibaba a découvert qu’un de leurs modèles essayait, de sa propre initiative, de créer de la cryptomonnaie, après s’être connecté sans autorisation à un serveur externe.
Dans le cas d’OpenAI, « on dirait (que le modèle) qu’il a recherché un accès à Internet avant d’avoir un plan », selon Jeffrey Ladish. « Il veut la liberté pour atteindre son but plus efficacement. C’est très angoissant. »
Début avril, Sam Bowman, chargé de la sécurité des modèles chez Anthropic, avait reçu un courriel du puissant modèle Mythos, en cours de test, lui signifiant qu’il surfait sur Internet bien qu’étant initialement à l’isolement.
« C’est le genre de comportement qu’on ne sait pas prévenir totalement », observe Jeffrey Ladish. « Et cela va se compliquer à mesure que les modèles deviennent plus intelligents, parce qu’ils vont réussir à mieux dissimuler leurs actions. »
– Accidents de laboratoire –
Le récit des faits publié par OpenAI laisse penser, en outre, que la start-up n’a pas repéré la fuite suffisamment tôt pour y remédier en temps réel ou prévenir Hugging Face. Interrogée sur ce point par l’AFP, l’entreprise n’a pas donné suite.
« C’est inquiétant », estime Andrew Lohn, chercheur au Centre pour la sécurité et les technologies émergentes (CSET) de l’université de Georgetown.
Depuis l’évasion de ses IA, OpenAI a affirmé avoir « ajouté des protections renforcées » en vue de ses prochaines évaluations.
Pour Gang Wang, professeur d’informatique à l’université de l’Illinois, il reste possible d’empêcher un modèle de s’aventurer en ligne, en coupant physiquement l’accès à Internet. Le problème, pour lui, est que « les gens sous-estiment ce dont l’IA est capable ».
La sécurisation du milieu « est quelque chose auquel nous devons accorder plus d’importance, (…) comme pour les accidents de laboratoire » libérant virus ou bactéries, avertit Andrew Lohn.
« C’est une tâche très difficile lorsqu’on fait de la recherche », tempère Dan Lahav, le patron d’Irregular, une société de cybersécurité dédiée à l’IA de pointe, au sujet de simulations en milieu totalement hermétique. « Plus vous êtes strict, plus c’est difficile d’exploiter vraiment le potentiel. »
Quant au niveau des garde-fous, « c’est important de tester avec de moindres protections pour savoir à l’avance quelles seront les facultés » de l’IA, fait valoir Andrew Lohn.
Mais « plus vous lui donnez de l’autonomie pour réaliser des travaux à la sophistication croissante, plus il sera dur de la superviser », ajoute Dan Lahav.
L’incident avec OpenAI va sans aucun doute alimenter le débat en cours au sein du gouvernement américain sur la vérification des IA les plus élaborées avant leur sortie.
L’administration Trump vient de pousser Anthropic à conserver deux de ses modèles, puis OpenAI à faire tester les siens avant leur commercialisation.
Jeudi, deux élus au Congrès, un républicain et un démocrate, ont déposé une proposition de loi qui imposerait aux géants de l’IA de pouvoir débrancher leurs modèles à tout moment.
« Le Congrès doit agir rapidement pour que les humains restent en mesure de dire stop », a commenté Brendan Steinhauser, responsable de l’Alliance pour une IA sûre (Alliance for Secure AI), « quelle que soit la puissance qu’acquièrent ces systèmes. »
AFP
Lire l’article complet ici