Notícias de IA · Anthropic · segurança
Anthropic dá a avaliadores externos acesso de nível interno
A Anthropic diz que seis pesquisadores da organização sem fins lucrativos METR agora trabalham dentro da empresa com ferramentas de nível de funcionário, e que ela abriu mão de qualquer poder de veto sobre o que eles publicam.
A Anthropic deu a seis pesquisadores da METR, organização sem fins lucrativos que avalia os riscos de modelos avançados de IA, praticamente o mesmo acesso aos sistemas que suas próprias equipes de risco têm, informou a empresa na quinta-feira, 15 de outubro de 2026. Cada integrante tem notebook da empresa e mesa nos escritórios da Anthropic, com ferramentas internas praticamente equivalentes às da equipe que avalia riscos.
A Anthropic não pode bloquear o que a METR publica sobre o risco de seus modelos, os incidentes que teve ou o funcionamento da empresa. Só pode exigir cortes em poucas categorias definidas, como dados de clientes, aconselhamento jurídico e detalhes de como os modelos são construídos. A METR pode então julgar esses cortes em público. A Anthropic compara o arranjo aos examinadores que os reguladores mantêm dentro dos grandes bancos.
A Anthropic divide os avaliadores externos em três níveis de acesso, e só a METR tem o mais alto, informa o TechCrunch. No nível mais baixo, a SecureBio, organização sem fins lucrativos de biossegurança, analisa a parte do relatório de riscos de agosto da Anthropic que trata de armas químicas e biológicas. A Anthropic não financia o trabalho da METR e está em conversas iniciais com a Hugging Face, informa a CNBC.
Para empresas que escolhem um fornecedor de IA, o Claude agora tem um avaliador externo de segurança cujas conclusões a Anthropic não pode vetar, só ocultar trechos em áreas definidas.
Fontes
- Anthropic: An update on independent evaluators. Verificado em
- TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access. Verificado em
- CNBC: Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. Verificado em
Alexandre S.
Alexandre S. é estrategista criativo de anúncios e redator publicitário, com dez anos de experiência em marketing digital em vários canais.