AIニュース・リサーチ・Co-Design Bench
最高性能のコーディングエージェントでも、実際のユーザー依頼を完全にこなせるのは26.4%のみ
実際のコーディングセッション26,314件から作ったベンチマークによると、10モデルのうち最高のモデルでも、タスクの基準を平均69.9%満たすものの、すべて満たすことはまれです。
AIコーディングエージェントは、仕事の大半をこなしても、どこかを仕上げ忘れます。アリババとアジアの複数の大学の研究者が作ったベンチマークCo-Design Benchは、実ユーザーのコーディングセッションから集めた273件の変更依頼をエージェントに与えました。2026年11月8日(日)にThe Decoderが報じました。10モデルのうち最高のGPT-6 Astraでも、タスクの基準を平均69.9%満たすものの、完全に完了したのはタスクの26.4%にとどまると、論文は述べています。
タスクは26,314件のセッションにわたる37,463件の依頼から選んでおり、ユーザーが依頼を言い直したり、変更を元に戻したりした場面が対象です。小さなタスクは、レシートから数値を読み取り、それを基にした合計をすべて直す程度。大きなタスクは、プロジェクト全体の作り直しです。採点は2種類のAI審査員が担当し、1つはブラウザでアプリを動かし、もう1つは各回答にモックアップや、計算せず直接書き込んだ答えがないかを確認します。
2位はClaude Opus 5、3位はQwen3.8-Max、Grok 4.6は10モデル中10位でした。レイアウト、デザイン、インタラクション、コンテンツなど、3〜4種類の変更が混在するタスクでは、どのモデルも成績が下がります。GLM-5.2は小規模な変更でGPT-6 Astraの6倍近いトークン(モデルが課金の単位にするテキストの単位)を使いながら、スコアは下回りました。
料金表(11月8日確認)では、Claude Proは月額20ドルで、Anthropicのコーディングエージェント、Claude Codeが含まれます。
エージェントでLP(ランディングページ)を作るマーケターにとって、26.4%という数字は、変更のたびに人の目で確認が必要だということです。エージェントは修正の大部分を正しくこなしても、合計が合わなくなるなど、少なくとも1つは細部を見落とすのが通例です。
出典
のその他のAIニュース
- エルヴィス・プレスリーとエミネムの権利者、AIによるそっくり曲でSunoを提訴
- Tripadvisor、売上の48.8%をマーケティングに投下
- Claudeが銀行口座を読み取る「Personal Finance」ハブが登場
- Google AIモード、水道業者やハウスクリーニングの予約リンクを追加
- MetaのMuseエージェント、米国で音声・ビデオ通話に対応
- ElevenLabs、ElevenMusicの楽曲をSoundCloudに公開可能に
- News Australia、ブラックフライデー施策をAI検索向けに設計
- Google、2027年に検索・ショッピングでチャネル定義を提供
- DeepSeek Harness、APIの1日あたり利用者が154万人に