AIニュース・Anthropic・Zhipu
Anthropic、オープンなGLM-5.3は弱い安全対策でエクスプロイトを作成と指摘
Anthropicのレッドチームによると、この中国のオープンウェイトモデルは、実際に動くエクスプロイトを書く能力で、Claude Mythos Previewに近い水準です。
AnthropicのFrontier Red Teamは2026年9月29日（火）、中国Zhipu AI（海外ではZ.aiとして知られる）のオープンウェイトモデルGLM-5.3の評価結果を公開しました。レポートは、サイバー攻撃用のエクスプロイトを最初から最後まで作り上げる能力で、このモデルはAnthropic自社のClaude Mythos Previewに近いとしています。
ExploitBenchでは、GLM-5.3は試行の12%で完全なエクスプロイトを作成しました。Mythos Previewは14%だったと、Anthropicは報告しています。社内のバイナリエクスプロイト用テストセットでは、このモデルが制御フローを乗っ取れた割合は4%で、Mythos Previewは6%でした。GLM-5.2を含む以前のモデルは、どちらもほぼゼロでした。
弱点は安全のガードレールです。質問者の素性を偽る手口は、モデルの拒否をすり抜けた割合が64%だったと、Anthropicは確認しています。推論の冒頭を埋めておく方法は92%で成功しました。安全性に関わる重みを取り除く方法は毎回成功し、3つの手口のいずれもClaudeには通用しませんでした。
Anthropicはここから2つの政策提言を導いています。防御側がフロンティアモデルをより広く使えるようにすること、そして高性能なモデルに対して政府が安全性の検証を行うことです。
ZhipuはGLM-5.3を8月にまずAPIとして提供し、CyberGymでAnthropicとOpenAIのモデルを上回ったと主張していたと、The Registerは報じました。その2週間後にウェイトを公開したと、Trending Topicsは伝えています。
セキュリティ担当者は、提供元のフィルターを介さずに誰でもダウンロードして動かせる、エクスプロイト作成能力と向き合うことになります。
