Actualités IA · Anthropic · sûreté
Anthropic donne à des évaluateurs externes un accès d’employé
Anthropic indique que six chercheurs de l'organisation à but non lucratif METR travaillent désormais en son sein avec les mêmes outils que ses salariés, et qu'elle a renoncé à tout droit de veto sur ce qu'ils publient.
Anthropic a donné à six chercheurs de METR, une association à but non lucratif qui évalue les risques des modèles d’IA avancés, à peu près le même accès à ses systèmes qu’à ses propres équipes chargées des risques, a indiqué Anthropic le jeudi 15 octobre 2026. Chacun dispose d’un ordinateur portable de l’entreprise et d’un bureau dans les locaux d’Anthropic, avec des outils internes à peu près équivalents à ceux des employés qui évaluent les risques.
Anthropic ne peut pas bloquer ce que METR publie sur le niveau de risque de ses modèles, sur les incidents survenus ou sur leur fonctionnement. L’entreprise peut seulement exiger des suppressions dans quelques catégories définies, comme les données clients, les conseils juridiques et les détails de fabrication de ses modèles. METR peut ensuite commenter publiquement ces suppressions. Anthropic compare ce dispositif aux contrôleurs que les régulateurs installent dans les grandes banques.
Anthropic répartit les évaluateurs externes en trois niveaux d’accès, et METR est le seul au niveau le plus élevé, rapporte TechCrunch. Au niveau le plus bas, SecureBio, une association de biosécurité, examine la partie du rapport de risques d’août d’Anthropic consacrée aux armes chimiques et biologiques. Anthropic ne finance pas le travail de METR et en est aux premières discussions avec Hugging Face, rapporte CNBC.
Pour les entreprises qui choisissent un fournisseur d’IA, Claude dispose désormais d’un évaluateur externe dont Anthropic ne peut pas censurer les conclusions, seulement masquer certains éléments dans des domaines précis.
Sources
- Anthropic : An update on independent evaluators. Vérifié le
- TechCrunch : Anthropic is letting METR researchers look under the hood with employee-level access. Vérifié le
- CNBC : Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. Vérifié le
Alexandre S.
Alexandre S. est stratège créatif en publicité et copywriter, avec dix ans d’expérience en marketing digital sur plusieurs canaux.