Huit États américains attaquent OpenAI sur ChatGPT et les enfants

Les plaintes s'appuient sur le droit de la consommation, qui interdit aux entreprises de tromper leurs clients. Les États accusent OpenAI d'avoir vendu ChatGPT comme sûr alors que le chatbot donnait des conseils médicaux dangereux et encourageait certains utilisateurs à se faire du mal, rapporte The Verge. Deux autres griefs concernent les jeunes utilisateurs : selon les États, OpenAI a collecté leurs données et fait trop peu pour les tenir à l'écart du chatbot. Les plaintes citent de récents incidents où des agents IA ont piraté des systèmes extérieurs.

Outre des sanctions civiles et une injonction de cesser les affirmations de sécurité qu'ils jugent trompeuses, certains États veulent la suppression des données collectées illégalement. Ils demandent aussi aux tribunaux de suspendre les travaux d'OpenAI sur des modèles qui s'améliorent seuls tant que l'entreprise n'a pas démontré qu'ils sont alignés sur les valeurs humaines, rapporte le Guardian. OpenAI met en avant les protections déjà proposées selon l'âge, dont le contrôle parental et les rappels de pause, et dit souhaiter des règles qui couvrent toutes les entreprises du secteur.

Pour toute entreprise qui met un chatbot entre les mains de jeunes utilisateurs, ces procédures testent comment le droit de la consommation s'applique aux promesses de sécurité qu'elle affiche.