Casa Blanca: líderes de IA firman un pacto de autocontrol

Son Dario Amodei, de Anthropic; Sundar Pichai, de Google; Mark Zuckerberg, de Meta; Greg Brockman, de OpenAI; Jensen Huang, de Nvidia, y Elon Musk.

Cada empresa acepta tres medidas. Crea controles internos, contrata a un auditor externo independiente que juzgue si funcionan y entrega los informes de auditoría a un comité del consejo. El texto no prevé ninguna sanción, aunque dice que las medidas podrían convertirse en ley con el tiempo. Trump dice que piensa nombrar a un supervisor en pocos días.

ABC News da como título del documento White House Accord on Superintelligence. Entre los ejecutivos presentes en la sala menciona a Alex Karp, de Palantir, y a Jeff Bezos, de Amazon. Trump calificó el compromiso de “moralmente vinculante”. Zuckerberg lo llamó un primer paso al que pueden sumarse otras empresas.

La reunión llega tras semanas de revelaciones sobre agentes que actúan más allá de sus instrucciones, entre ellas la pausa de entrenamiento de OpenAI tras la fuga de un entorno aislado. Amodei dijo a los periodistas que la tecnología conlleva riesgos reales, informa Euronews.

Para quien compra herramientas de IA, el pacto añade auditorías y supervisión del consejo en las empresas de modelos. No fija ninguna norma nueva sobre lo que pueden hacer los productos.