Acht US-Bundesstaaten verklagen OpenAI wegen ChatGPT und Kindern

Die Klagen stützen sich auf Verbraucherschutzgesetze, die Unternehmen untersagen, ihre Kunden zu täuschen. Die Staaten werfen OpenAI vor, ChatGPT als sicher verkauft zu haben, während der Chatbot gefährliche medizinische Ratschläge gegeben und manche Nutzer dazu ermutigt habe, sich selbst zu schaden, berichtet The Verge. Zwei weitere Vorwürfe betreffen junge Nutzer: Die Staaten sagen, OpenAI habe ihre Daten gesammelt und zu wenig getan, um sie vom Chatbot fernzuhalten. Die Klageschriften verweisen auf jüngste Vorfälle, bei denen KI-Agenten fremde Systeme gehackt haben.

Neben Zivilstrafen und einer Anordnung, die Sicherheitsaussagen zu beenden, die sie als irreführend bezeichnen, wollen einige Staaten, dass rechtswidrig gesammelte Daten gelöscht werden. Außerdem bitten sie die Gerichte, OpenAIs Arbeit an Modellen, die sich selbst verbessern, auszusetzen, bis das Unternehmen belegt, dass diese Modelle mit menschlichen Werten im Einklang stehen, berichtet der Guardian. OpenAI verweist auf Schutzmaßnahmen, die es bereits nach Alter anbietet, darunter Kindersicherungen und Pausenerinnerungen, und sagt, es wünsche sich KI-Regeln, die für jedes Unternehmen der Branche gelten.

Für jedes Unternehmen, das jungen Nutzern einen Chatbot anbietet, loten diese Fälle aus, wie das Verbraucherschutzrecht auf die Sicherheitsaussagen des Unternehmens anzuwenden ist.