Noticias de IA · Anthropic · seguridad
Anthropic da a evaluadores externos acceso de empleado
Anthropic dice que seis investigadores de la organización sin ánimo de lucro METR trabajan ahora dentro de la empresa con herramientas de nivel de empleado, y que renunció a cualquier veto sobre lo que publiquen.
Anthropic ha dado a seis investigadores de METR, una organización sin fines de lucro que evalúa los riesgos de los modelos de IA avanzados, un acceso a sus sistemas más o menos igual al de sus propios equipos de riesgos, dijo Anthropic el jueves 15 de octubre de 2026. Cada uno tiene una laptop de la empresa y un escritorio en las oficinas de Anthropic, con herramientas internas casi al nivel de las del personal que evalúa los riesgos.
Anthropic no puede bloquear lo que METR publique sobre el riesgo de sus modelos, los incidentes que ha tenido o cómo funciona. La empresa solo puede exigir recortes en unas pocas categorías definidas, como datos de clientes, asesoría legal y detalles de cómo se construyen sus modelos. METR puede entonces juzgar esos recortes en público. Anthropic compara el esquema con los inspectores que los reguladores destinan dentro de los grandes bancos.
Anthropic divide a los evaluadores externos en tres niveles de acceso, y solo METR tiene el más alto, según TechCrunch. En el nivel más bajo, SecureBio, una organización sin fines de lucro dedicada a la biosecuridad, revisa la parte del informe de riesgos de agosto de Anthropic que trata de armas químicas y biológicas. Anthropic no financia el trabajo de METR y está en conversaciones iniciales con Hugging Face, según CNBC.
Para las empresas que eligen proveedor de IA, Claude tiene ahora un evaluador externo de seguridad cuyas conclusiones Anthropic no puede vetar, solo suprimir partes en áreas definidas.
Fuentes
- Anthropic: An update on independent evaluators. Revisado
- TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access. Revisado
- CNBC: Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.