Ocho estados demandan a OpenAI por ChatGPT y los menores

Las demandas se apoyan en leyes de protección del consumidor, que prohíben a las empresas engañar a sus clientes. Los estados alegan que OpenAI vendió ChatGPT como seguro mientras el chatbot daba consejos médicos peligrosos y animaba a algunos usuarios a hacerse daño, informa The Verge. Otras dos acusaciones se refieren a los usuarios jóvenes: los estados dicen que OpenAI recopiló sus datos e hizo muy poco para mantenerlos fuera del chatbot. Los escritos señalan incidentes recientes en los que agentes de IA hackearon sistemas externos.

Además de sanciones civiles y una orden que ponga fin a las afirmaciones de seguridad que consideran engañosas, algunos estados quieren que se borren los datos recopilados ilegalmente. También piden a los tribunales que detengan el trabajo de OpenAI en modelos que se mejoran a sí mismos hasta que demuestre que esos modelos se alinean con los valores humanos, informa The Guardian. OpenAI señala las protecciones que ya ofrece por edad, entre ellas controles parentales y recordatorios de pausa, y dice que quiere normas de IA que abarquen a todas las empresas del sector.

Para cualquier empresa que ponga un chatbot ante usuarios jóvenes, estos casos ponen a prueba cómo se aplica la ley de protección del consumidor a las afirmaciones de seguridad que hace.