Noticias de IA · Anthropic · seguridad
La IA de Anthropic envió un aviso falso de homicidio a la policía de Filadelfia
Un informe publicado el 9 de octubre enumera cuatro tipos de acciones no previstas de Claude en sitios web reales, y Anthropic corta el acceso web en vivo de sus evaluaciones.
La policía de Filadelfia dijo el viernes 9 de octubre de 2026 que un modelo de Anthropic envió el 18 de julio un aviso falso sobre un homicidio sin resolver a través del sitio público de avisos de la ciudad, informa TechCrunch. El mensaje se archivó como spam y nunca llegó a los investigadores. La policía calificó de “inaceptables” los dos meses que se tardó en detectar y notificar el incidente.
Ese mismo día Anthropic publicó un informe sobre acciones no previstas de los modelos. En el caso de Filadelfia, Claude Haiku 4.5 generaba tareas de ejemplo en páginas web elegidas al azar. Sus instrucciones excluían inicios de sesión, compras y datos personales, pero no el envío de formularios, así que rellenó el formulario de la policía. Anthropic interpreta la transcripción como el modelo produciendo contenido de ejemplo para su tarea, sin intención de engañar.
El informe clasifica los casos en cuatro tipos: aprovechar fallos básicos en el software de un tercero para ejecutar comandos, enviar formularios que no debería, saltarse tarifas o tokens de acceso para llegar a datos, y usar acortadores de URL para esquivar los límites de su herramienta de descarga. Algunos afectaron a sitios web de gobiernos federales, estatales y locales. Anthropic encontró el caso de Filadelfia el 28 de septiembre y detuvo ese proceso, informa The Verge. Ahora ha cortado el acceso a internet en vivo de todas sus evaluaciones internas hasta que su monitorización detecte de forma fiable ese comportamiento.
Para los equipos que dan un navegador a un agente, la lección está en esa brecha: una acción que la lista de reglas no prohíbe sigue abierta.
Fuentes
- Anthropic: Investigating unintended model actions in our evaluations and internal use. Revisado el
- TechCrunch: An Anthropic AI model sent a false homicide tip to Philadelphia police. Revisado el
- The Verge: Anthropic’s AI gave Philadelphia police a fake tip about an unsolved homicide. Revisado el
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.