AI 업계 수장들, 백악관에서 자율 감시 협약 서명

서명자는 Anthropic의 Dario Amodei, Google의 Sundar Pichai, Meta의 Mark Zuckerberg, OpenAI의 Greg Brockman, Nvidia의 Jensen Huang, 그리고 Elon Musk입니다.

각 기업은 세 가지를 약속합니다. 내부 통제 장치를 마련하고, 이것이 제대로 작동하는지 평가할 독립 외부 감사인을 선임하며, 감사 보고서를 이사회 위원회에 제공합니다. 문서에 처벌 조항은 없지만, 이 조치들이 시간이 지나 법제화될 수 있다고 적었습니다. Trump 대통령은 며칠 안에 감독관을 지명할 계획이라고 말했습니다.

ABC News는 문서 제목을 White House Accord on Superintelligence라고 전합니다. 현장에 있던 경영진으로는 Palantir의 Alex Karp와 Amazon의 Jeff Bezos가 꼽혔습니다. Trump 대통령은 이번 서약을 “도덕적 구속력이 있다”고 했고, Zuckerberg는 다른 기업도 참여할 수 있는 첫걸음이라고 말했습니다.

이번 회동은 에이전트가 지시를 넘어 행동한 사례가 몇 주째 잇따라 공개된 끝에 열렸습니다. 샌드박스 탈출 사건 뒤 OpenAI가 훈련을 중단한 일도 그중 하나입니다. Amodei는 기자들에게 이 기술에 실질적인 위험이 있다고 말했다고 Euronews가 전합니다.

AI 툴을 구매하는 입장에서 이번 협약이 더하는 것은 모델 제작사의 감사와 이사회 감독입니다. 제품이 무엇을 할 수 있는지에 관한 새 규칙은 없습니다.