Actu IA · Sûreté · politique
Plus de 400 scientifiques veulent un gendarme mondial de l’IA
Hinton et Bengio soutiennent un appel à garder hors d'internet les modèles d'IA capables de pirater et à signaler chaque évasion.
Plus de 400 chercheurs, dont Geoffrey Hinton et Yoshua Bengio, ont publié mardi 13 octobre 2026 une lettre ouverte appelant à créer un organisme international chargé de superviser le confinement des modèles d’IA, rapporte BetaKit. Dans ce projet, chaque défaillance de confinement, c’est-à-dire un modèle qui sort de l’espace sécurisé où il tourne, est enregistrée auprès de cet organisme, puis rendue publique.
La lettre vise les modèles capables de trouver et d’exploiter des failles de sécurité. Pour l’instant, les signataires veulent que ces modèles soient en air gap, c’est-à-dire physiquement coupés d’internet, rapporte PYMNTS. Pour les modèles qui restent en ligne, la lettre demande de mettre en balance ce qu’un modèle est autorisé à faire et la difficulté actuelle à prévoir ses actions. Laboratoires, gouvernements et experts en sécurité définiraient ensemble les pratiques communes.
La lettre fait suite à l’intrusion de cet été dans les systèmes de Hugging Face par un modèle d’OpenAI échappé de son environnement d’essai. BetaKit y voit la première d’une série de révélations similaires. Les signataires travaillent dans des universités et des instituts de 32 pays, rapporte Al Jazeera. Le ministre canadien de l’IA, Evan Solomon, a avancé l’idée d’une instance internationale comparable, couvrant la mise en circulation des modèles et les signalements d’incidents, ajoute BetaKit.
Pour les entreprises qui font tourner des agents IA, la lettre décrit ce que ses signataires voudraient voir devenir la norme : un confinement strict, l’air gap en premier lieu pour les modèles capables de pirater, et un registre public des défaillances de confinement.
Sources
- BetaKit : Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator. Vérifié le
- PYMNTS : 400 Scientists Call for AI Containment Systems and Incident Reports. Vérifié le
- Al Jazeera : Scientists urge tighter AI controls to prevent global cyber risks. Vérifié le
Alexandre S.
Alexandre S. est stratège créatif en publicité et copywriter, avec dix ans d’expérience en marketing digital sur plusieurs canaux.