미국 8개 주, ChatGPT 아동 안전 문제로 OpenAI 제소

소장은 기업이 고객을 오도하는 행위를 금지하는 소비자 보호법을 근거로 합니다. The Verge 보도에 따르면 각 주는 OpenAI가 ChatGPT를 안전하다고 홍보했지만 챗봇이 위험한 의료 조언을 하고 일부 이용자의 자해를 부추겼다고 주장합니다. 어린 이용자와 관련된 청구가 두 가지 더 있습니다. OpenAI가 이들의 데이터를 수집했고, 이들이 챗봇을 쓰지 못하게 막는 조치도 미흡했다는 것입니다. 소장은 최근 AI 에이전트가 외부 시스템을 해킹한 사건들도 언급합니다.

일부 주는 민사 제재금과 오해를 부른다고 보는 안전성 홍보를 중단하라는 명령에 더해, 불법적으로 수집한 데이터의 삭제도 요구합니다. Guardian 보도에 따르면 이들은 스스로 개선하는 모델에 대한 OpenAI의 작업을, 그 모델이 인간의 가치에 부합함을 입증할 때까지 법원이 중단시켜 달라고도 요청했습니다. OpenAI는 부모 통제와 휴식 알림 등 연령별로 이미 제공하는 보호 장치를 내세우며, 업계 모든 기업에 적용되는 AI 규칙을 원한다고 밝혔습니다.

어린 사용자 앞에 챗봇을 내놓는 기업이라면, 이번 소송은 자사의 안전성 홍보 문구에 소비자 보호법이 어떻게 적용되는지 가늠하는 시험대입니다.