adtestbench Higgsfield
繁中

AI 新聞 · 研究 · Co-Design Bench

最強程式開發代理完整完成真實使用者需求的比例僅 26.4%

這項基準測試取材自 26,314 段真實程式開發對話,發現十個模型中表現最好的,平均能達成任務 69.9% 的標準,但很少全部做到。

作者:Alexandre S. ,04:30 UTC

AI 程式開發代理能做完大部分工作,卻總會漏掉一點。據 The Decoder 報導,由阿里巴巴與多所亞洲大學研究人員打造的基準測試 Co-Design Bench,讓代理處理取自真實使用者開發對話的 273 項修改需求,報導於 2026 年 11 月 8 日(週日)發表。論文指出,十個模型中表現最好的 GPT-6 Astra,平均能達成任務 69.9% 的標準,但完整完成的任務只有 26.4%。

復古未來風插畫:星空下,條紋夕陽映照格線地平線,地平線上矗立著一個軟體視窗。
插圖由 adtestbench 根據 「AI coding agents still need human cleanup on nearly three out of four tasks」()繪製

這些任務來自 26,314 段對話中的 37,463 項需求,挑選的都是使用者得重新表述需求或退回修改的案例。小任務可能是從收據讀出一個數字,再修正所有由它算出的總額;大任務則是重做整個專案。評分由兩個 AI 評審負責:一個在瀏覽器中實際操作應用程式,另一個檢查每次產出是否用了假畫面,或是直接填入答案而非真正算出來。

Claude Opus 5 排名第二,Qwen3.8-Max 第三,Grok 4.6 在十個模型中墊底。當任務同時混合版面、設計、互動與內容等三、四種修改時,每個模型的表現都會變差。GLM-5.2 在小幅修改上用掉的 token(模型計費的文字單位)接近 GPT-6 Astra 的六倍,得分卻還比較低。

根據我們的價格表(11 月 8 日確認),Claude Pro 每月 20 美元,內含 Anthropic 的程式開發代理 Claude Code。

行銷人員若用代理製作到達網頁,這個 26.4% 的數字代表每次修改都要人工檢查。代理通常能把大部分修訂做對,但至少會漏掉一個細節,例如總額不再對得上。