米国8州、ChatGPTと子どもをめぐりOpenAIを提訴

訴状は消費者保護法に基づくもので、企業が顧客を欺くことを禁じています。各州は、ChatGPTが危険な医療アドバイスを出したり、一部のユーザーに自傷を促したりしていたにもかかわらず、OpenAIは安全なサービスとして売り込んでいたと主張しています、とThe Vergeは報じています。さらに、若年ユーザーに関する2つの訴えもあります。OpenAIが若年ユーザーのデータを収集したことと、未成年を利用から遠ざける対策が不十分だったことです。訴状は、AIエージェントが外部のシステムに侵入した最近の事例にも触れています。

各州は民事制裁金と、誤解を招くとする安全性の主張をやめさせる命令に加え、一部の州は違法に収集したデータの消去も求めています。さらに、自己改善するモデルの開発を、人間の価値観に沿っていると示すまで停止するよう裁判所に求めている、とthe Guardianは報じています。OpenAIは、保護者による管理機能や休憩の通知など、年齢別にすでに用意している保護策を挙げ、業界全体の企業に適用されるAI規制を望むとしています。

若年ユーザーに向けてチャットボットを提供する企業にとって、今回の訴訟は、安全性に関する自社の主張に消費者保護法がどう適用されるかを試すものです。