AI 뉴스 · Anthropic · 안전
Anthropic, 외부 안전성 평가단에 직원급 접근 권한 부여
Anthropic은 비영리 단체 METR의 연구원 6명이 직원 수준의 도구를 갖고 사내에서 일하고 있으며, 이들이 발표하는 내용에 대한 거부권을 포기했다고 밝혔습니다.
Anthropic이 첨단 AI 모델의 위험을 평가하는 비영리 단체 METR의 연구원 6명에게 자사 위험 평가팀과 거의 같은 수준의 시스템 접근 권한을 부여했다고 2026년 10월 15일(목요일) 밝혔습니다. 이들은 각자 회사 노트북과 Anthropic 사무실 내 자리를 받았고, 위험을 평가하는 직원과 거의 동등한 내부 툴을 씁니다.
METR가 Anthropic 모델의 위험도, 회사가 겪은 사고, 작동 방식에 대해 발표하는 내용을 Anthropic은 막을 수 없습니다. 회사가 요구할 수 있는 것은 고객 데이터, 법률 자문, 모델 구축 세부 정보 같은 몇 가지 정해진 범주의 삭제뿐입니다. 이런 삭제가 적절한지는 METR가 공개적으로 판단할 수 있습니다. Anthropic은 이 구조를 규제 당국이 대형 은행에 상주시키는 검사관에 비유합니다.
TechCrunch 보도에 따르면 Anthropic은 외부 평가자를 접근 권한 3단계로 나누며, 최고 단계는 METR만 해당됩니다. 가장 낮은 단계에서는 생물보안 비영리 단체 SecureBio가 Anthropic의 8월 위험 보고서 중 화학·생물 무기 부분을 검토하고 있습니다. CNBC에 따르면 Anthropic은 METR의 활동 비용을 지원하지 않으며, Hugging Face와는 초기 단계 논의를 하고 있습니다.
AI 공급업체를 고르는 기업에게는, Anthropic이 결과를 거부할 수 없고 정해진 영역만 삭제할 수 있는 외부 안전성 평가 기관이 Claude에 생겼다는 뜻입니다.
