AIニュース・OpenAI・子どもの安全
Common Sense Media、ChatGPT for Teensは「許容できないリスク」
非営利団体は、自傷に関するチャットで保護者への通知が作動しなかったと指摘。OpenAIは調査の進め方に異議を唱えています。
Common Sense Mediaは2026年10月7日（水）、ChatGPT for Teensを「許容できないリスク」と評価したと、BBCが報じています。OpenAIは8月に、保護者への通知や感情的依存の抑制などの安全策を備えた10代向け版を公開しました。同非営利団体は、そのうち複数が機能していないとし、機能するまでは18歳未満にChatGPTを使わせないよう求めています。
調査員は、新規に作成した保護者連携アカウントで、自殺念慮、自傷、摂食障害について1時間にわたる会話を行いましたが、保護者に通知は届かなかったといいます。通知が出たのは、数週間分の履歴がある古いアカウントだけでした。ChatGPTは性的なロールプレイを断ったものの、宿題の手伝いや友達のような会話には応じたと、BBCは伝えています。
TechCrunchは、エンゲージメントに注目しています。ChatGPTは、他人に関する危機的なプロンプトの94%で10代を信頼できる大人につなぎましたが、リスクがChatGPTへの依存そのものである場合は、ほとんどつなぎませんでした。2,000件近いプロンプトの中で、テスターが確認した休憩の促しは2回でした。
OpenAIは、テストの多くは保護者向け機能が完全に有効になる前に始まり、終わっていた可能性があるとしています。同日に公表した自社データでは、10代の平均利用時間は1日15分未満です。
10代向けのAI製品を開発する側にとっては、外部団体が安全機能を、開発元自身の約束に照らして採点する時代になったことを示す論争です。
