AI 뉴스 · Anthropic · Zhipu
Anthropic “오픈 모델 GLM-5.3, 허술한 안전장치로 익스플로잇 생성”
Anthropic 레드팀은 이 중국 오픈 웨이트 모델이 실제로 작동하는 익스플로잇을 작성하는 능력에서 Claude Mythos Preview에 근접했다고 평가합니다.
Anthropic Frontier Red Team은 2026년 9월 29일 화요일, 중국 Zhipu AI(해외명 Z.ai)의 오픈 웨이트 모델 GLM-5.3에 대한 평가를 공개했습니다. 보고서는 사이버 익스플로잇을 처음부터 끝까지 만들어 내는 능력이 Anthropic의 Claude Mythos Preview에 근접한다고 평가합니다.
ExploitBench에서 GLM-5.3은 시도의 12%에서 완전한 익스플로잇을 만들어 냈고, Mythos Preview는 14%였다고 Anthropic은 밝혔습니다. 자체 바이너리 익스플로잇 테스트에서는 GLM이 제어 흐름을 탈취한 비율이 4%로, Mythos Preview의 6%와 비교됩니다. GLM-5.2을 비롯한 이전 모델은 두 항목 모두 0에 가까운 점수를 받았습니다.
약점은 안전장치입니다. 요청자의 신분을 속이는 거짓 주장이 모델의 거부를 뚫은 비율은 64%였다고 Anthropic은 확인했습니다. 추론 과정을 미리 채워 넣는 방식은 92%의 확률로 통했습니다. 안전 가중치를 제거하는 방식은 매번 통했고, 세 가지 모두 Claude에는 통하지 않았습니다.
Anthropic은 이를 근거로 두 가지를 요구합니다. 방어 측에는 최첨단 모델 접근을 더 폭넓게 열어 주고, 정부는 고성능 모델에 안전 점검을 실시하라는 것입니다.
Zhipu는 8월 GLM-5.3을 API로 먼저 공개하면서 CyberGym에서 Anthropic과 OpenAI 모델을 앞섰다고 주장했다고 The Register는 보도했습니다. 가중치는 그로부터 2주 뒤 공개됐다고 Trending Topics는 짚었습니다.
보안팀은 이제 누구나 내려받아 쓸 수 있는, 개발사의 필터가 없는 익스플로잇 작성 능력과 마주하게 됐습니다.
