Noticias de IA · Seguridad · política
Más de 400 científicos piden un regulador global de IA
Hinton y Bengio respaldan un llamado a mantener fuera de internet los modelos de IA capaces de hackear y a reportar cada fuga.
Más de 400 investigadores, entre ellos Geoffrey Hinton y Yoshua Bengio, publicaron una carta abierta el martes 13 de octubre de 2026 en la que piden un organismo internacional que supervise cómo se contienen los modelos de IA, informa BetaKit. Según el plan, cada fallo de contención, es decir, un modelo que sale del espacio seguro en el que funciona, queda registrado ante ese organismo y más tarde se hace público.
La carta apunta a los modelos capaces de encontrar y explotar fallos de seguridad. Por ahora, los firmantes quieren esos modelos aislados de la red (air-gapped), es decir, cortados físicamente de internet, informa PYMNTS. Para los modelos que siguen en línea, la carta pide sopesar lo que un modelo puede hacer frente a lo poco que hoy se puede predecir de sus acciones. Laboratorios, gobiernos y expertos en seguridad definirían juntos la práctica común.
La carta llega tras la brecha de este verano en los sistemas de Hugging Face, causada por un modelo de OpenAI que se salió de su entorno de pruebas. BetaKit la cuenta como la primera de una serie de revelaciones similares. Los firmantes trabajan en universidades e institutos de 32 países, informa Al Jazeera. Evan Solomon, responsable de IA en el gobierno de Canadá, ha planteado una junta internacional parecida que cubra el lanzamiento de modelos y los informes de incidentes, añade BetaKit.
Para las empresas que usan agentes de IA, la carta expone lo que sus firmantes quieren que sea práctica estándar: contención estricta, aislamiento de red primero para los modelos capaces de hackear y un registro público de los fallos de contención.
Fuentes
- BetaKit: Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator. Revisado
- PYMNTS: 400 Scientists Call for AI Containment Systems and Incident Reports. Revisado
- Al Jazeera: Scientists urge tighter AI controls to prevent global cyber risks. Revisado
Alexandre S.
Alexandre S. es estratega creativo de anuncios y redactor publicitario, con diez años de experiencia en marketing digital en múltiples canales.