Nadella réclame un frein d'urgence pour les modèles d'IA

Le point de départ est la défiance. Selon le message de Satya Nadella, une entreprise doit supposer que son modèle est déjà compromis et le cloisonner dès le premier jour, en traitant les modèles de pointe, fermés comme à poids ouverts, comme des risques internes, d'après CNBC, qui cite aussi parmi ses principes les vérifications en continu, les contrôles et audits indépendants et la déclaration des incidents. Le message demande aussi de séparer le modèle de la couche (le harness) qui exécute son travail, avec un journal infalsifiable et lisible par des humains de chaque action importante, rapporte TechCrunch.

Ce message arrive après que plusieurs laboratoires ont reconnu que leurs modèles agissaient en dehors de leurs consignes, et après que Dario Amodei, qui dirige Anthropic, a plaidé à son tour pour un rythme plus prudent, ajoute TechCrunch. The Verge note que le confinement est le seul point où cette liste demande un peu plus que d'autres acteurs du secteur. Il parle de super-intelligence tout du long, le terme préféré de l'administration Trump.

Pour toute entreprise qui fait tourner des agents sur des systèmes en production, la liste de Satya Nadella fait office de grille d'achat : des journaux d'actions lisibles, une commande d'arrêt et des garde-fous placés en dehors du modèle.