AI 新聞 · 研究 · Co-Design Bench
最強程式開發代理完整完成真實使用者需求的比例僅 26.4%
這項基準測試取材自 26,314 段真實程式開發對話,發現十個模型中表現最好的,平均能達成任務 69.9% 的標準,但很少全部做到。
AI 程式開發代理能做完大部分工作,卻總會漏掉一點。據 The Decoder 報導,由阿里巴巴與多所亞洲大學研究人員打造的基準測試 Co-Design Bench,讓代理處理取自真實使用者開發對話的 273 項修改需求,報導於 2026 年 11 月 8 日(週日)發表。論文指出,十個模型中表現最好的 GPT-6 Astra,平均能達成任務 69.9% 的標準,但完整完成的任務只有 26.4%。
這些任務來自 26,314 段對話中的 37,463 項需求,挑選的都是使用者得重新表述需求或退回修改的案例。小任務可能是從收據讀出一個數字,再修正所有由它算出的總額;大任務則是重做整個專案。評分由兩個 AI 評審負責:一個在瀏覽器中實際操作應用程式,另一個檢查每次產出是否用了假畫面,或是直接填入答案而非真正算出來。
Claude Opus 5 排名第二,Qwen3.8-Max 第三,Grok 4.6 在十個模型中墊底。當任務同時混合版面、設計、互動與內容等三、四種修改時,每個模型的表現都會變差。GLM-5.2 在小幅修改上用掉的 token(模型計費的文字單位)接近 GPT-6 Astra 的六倍,得分卻還比較低。
根據我們的價格表(11 月 8 日確認),Claude Pro 每月 20 美元,內含 Anthropic 的程式開發代理 Claude Code。
行銷人員若用代理製作到達網頁,這個 26.4% 的數字代表每次修改都要人工檢查。代理通常能把大部分修訂做對,但至少會漏掉一個細節,例如總額不再對得上。
資料來源
更多 的 AI 新聞
- 貓王與 Eminem 的權利人控告 Suno,指 AI 生成酷似原唱的歌曲
- Tripadvisor 行銷支出已占營收 48.8%
- Claude 新增 Personal Finance 專區,可讀取你的銀行帳戶
- Google AI Mode 新增水電工與清潔人員預約連結
- Meta 的 Muse 代理在美國開放語音與視訊通話
- ElevenLabs 讓 ElevenMusic 使用者直接發布歌曲到 SoundCloud
- News Australia 圍繞 AI 搜尋規劃黑色星期五檔期
- Google 將在 2027 年為搜尋與購物廣告加入管道定義
- DeepSeek Harness 的 API 日活躍使用者達 154萬