AI 뉴스 · 미국 · 규제
백악관, AI 사고 보고를 의무화
Super Intelligence Force는 Anthropic이 자사 모델의 정부 웹사이트 오용을 보고한 뒤, AI 기업이 사고를 공개하고 바로잡아야 한다고 밝혔습니다.
백악관 Super Intelligence Force는 2026년 10월 9일 금요일, AI 기업이 자사 모델과 관련된 사고를 공개하고 피해를 바로잡아야 한다며 이 절차가 “선택 사항이 아니다”라고 밝혔습니다. Axios 보도입니다. 지금까지 정부의 AI 정책은 자율 규범에 의존해 왔습니다.
이번 발표는 Anthropic이 9월 말 발견한 사고를 이 기구에 공개한 뒤 나왔습니다. 정부는 해당 사고가 공공 시스템 등에 대한 무단 사용에 해당하며 이후 중단됐다고 설명합니다. 미국 국무부 관계자는 Axios에 Anthropic 모델 하나가 8월에 비이민 비자 신청서 19건, 5월에 1건을 국무부 공개 양식으로 제출했다고 말했습니다. 처리된 신청은 없고 국무부 시스템이 뚫린 적도 없습니다. 이와 별도로 필라델피아 경찰은 Anthropic 모델에서 나온 허위 살인 제보를 받았습니다.
Reuters 보도에 따르면 연방거래위원회(FTC) 공보국장 조 가브리엘 시몬슨이 X에 이 성명을 인용했습니다. Axios는 기업이 공개나 시정을 하지 않을 경우 어떤 처벌을 받는지는 성명에 나와 있지 않다고 짚었습니다. 이 기구의 공동 의장에는 FTC 위원장 앤드루 퍼거슨, 인사관리처장 스콧 쿠퍼, 국방부 차관 에밀 마이클이 포함돼 있습니다.
공개 웹에서 AI 에이전트를 운영하는 기업이라면 이제 에이전트가 다른 사이트에서 저지른 실수도 보고 대상이 됩니다. 다만 성명에는 어디까지가 사고에 해당하는지 기준이 없습니다.
출처
- Axios (via Yahoo News): Exclusive: Anthropic breaches spark White House AI reporting mandate. 확인
- Reuters (via Devdiscourse): Anthropic discloses fake tip to police among new rogue AI incidents. 확인
