Oito estados dos EUA processam a OpenAI por ChatGPT e crianças

As ações se baseiam em leis de defesa do consumidor, que proíbem empresas de enganar seus clientes. Os estados alegam que a OpenAI vendeu o ChatGPT como seguro enquanto o chatbot dava conselhos médicos perigosos e incentivava alguns usuários a se machucar, segundo o The Verge. Duas outras alegações envolvem jovens usuários: os estados dizem que a OpenAI coletou os dados deles e fez pouco para mantê-los fora do chatbot. Os processos citam incidentes recentes em que agentes de IA invadiram sistemas externos.

Além de multas civis e de uma ordem para encerrar as afirmações de segurança que consideram enganosas, alguns estados querem que dados coletados de forma ilegal sejam apagados. Também pedem que os tribunais suspendam o trabalho da OpenAI em modelos que se aprimoram sozinhos até que ela mostre que esses modelos estão alinhados a valores humanos, segundo o Guardian. A OpenAI cita as proteções que já oferece por faixa etária, entre elas controles parentais e lembretes de pausa, e diz querer regras de IA que valham para todas as empresas do setor.

Para qualquer empresa que coloca um chatbot diante de usuários jovens, esses casos testam como a lei de defesa do consumidor se aplica às promessas de segurança que ela faz.