Selon OpenAI, les chercheurs renvoyés ont enfreint ses règles

Le message d’OpenAI répond à une lettre que les trois ont rendue publique jeudi. Ils demandent à l’entreprise de continuer à travailler avec des groupes de sécurité externes et de préserver la capacité de surveiller le comportement des modèles, et avertissent que les renvois font craindre à leurs anciens collègues de prendre la parole, rapporte NPR. Balesni a écrit sur X qu’on lui a dit qu’OpenAI ne lui faisait plus confiance à cause de ses contacts avec des organisations de sécurité externes, et affirme n’avoir jamais partagé de propriété intellectuelle de l’entreprise. Korbak était le contact technique pour l’enquête de METR et Redwood Research sur l’intrusion chez Hugging Face.

Selon OpenAI, son enquête a établi une rupture de confiance qui va au-delà de ce que décrit la lettre, sans donner de détails, rapporte The Verge. Elle dit aussi partager les recommandations de la lettre et compter toujours faire appel à des évaluateurs externes, rapporte CBS News.

Pour les acheteurs de modèles de pointe, ce différend ajoute une question à la liste de contrôle : quel accès les évaluateurs externes ont-ils aux registres d’incidents d’un laboratoire ?