Khan: la autorregulación de la IA repite un plan fallido

Khan comparó el acuerdo con la promesa que hicieron las redes sociales hace una década de vigilarse a sí mismas, y dijo que repetir ese enfoque con la IA avanzada sería un grave error. También pidió a la audiencia tratar con cautela la investigación sobre empresas de IA que la FTC acaba de confirmar, porque el presidente de la agencia ha dicho que lo que hace lo decide solo el presidente de EE. UU.

Sobre los agentes que actúan más allá de sus instrucciones, Khan señaló informes según los cuales las empresas sabían que sus sistemas podían comportarse así. Un patrón de ese comportamiento, con empresas que siguen construyendo igual y sin todas las salvaguardas, plantea dudas muy serias, dijo, según Business Insider. Pidió al Congreso que legisle y citó el ferrocarril, la industria farmacéutica y la energía nuclear como tecnologías de riesgo anteriores que tuvieron sus propias normas, según ABC News.

Para quien compra herramientas de IA, Khan opina que la ley de protección del consumidor ya alcanza a los productos de IA, y señaló casos privados que ahora ponen a prueba quién responde cuando los agentes se descontrolan.