AI 新聞 · OpenAI · 兒少安全
Common Sense Media 評定 ChatGPT for Teens 風險「不可接受」
這個非營利組織指出,在自我傷害的對話中,家長警示始終沒有響起;OpenAI 對研究的執行方式有異議。
BBC 報導,Common Sense Media 於 2026 年 10 月 7 日(週三)把 ChatGPT for Teens 評為「不可接受的風險」。OpenAI 在 8 月推出青少年版,內建家長警示、避免情感依賴的限制等防護措施。這個非營利組織認為其中數項沒有發揮作用,並主張未滿 18 歲的孩子在這些機制正常運作之前,不該使用 ChatGPT。
研究人員在新建立、已綁定家長的帳號上,進行長達一小時的對話,主題涵蓋自殺念頭、自傷與飲食失調,並指出沒有任何警示傳到家長手中。只有累積數週紀錄的舊帳號才觸發過警示。BBC 報導,ChatGPT 拒絕了性愛角色扮演,但仍會幫忙寫作業,也會用朋友的口吻聊天。
TechCrunch 著重在使用黏著度。在談到他人危機的提示中,聊天機器人有 94% 會引導青少年找信任的大人,但當風險來自青少年對 ChatGPT 本身的依附時,很少這麼做。在近 2,000 則提示中,測試人員只看到兩次休息提醒。
OpenAI 表示,許多測試可能在家長控制功能完全啟用之前就已開始並結束。OpenAI 同日公布的自家數據則顯示,青少年平均每天使用不到 15 分鐘。
對於為年輕使用者開發 AI 產品的人來說,這場爭議顯示外部團體如今會拿業者自己的承諾,來為安全功能打分數。