KI-News · Forschung · Co-Design Bench
Bester Coding-Agent löst nur 26,4 % echter Anfragen komplett
Ein Benchmark aus 26.314 echten Coding-Sitzungen zeigt: Das beste von zehn Modellen erfüllt im Schnitt 69,9 % der Kriterien einer Aufgabe, aber selten alle.
KI-Coding-Agenten erledigen den Großteil einer Aufgabe und lassen etwas liegen. Co-Design Bench, ein Benchmark von Forschern von Alibaba und mehreren asiatischen Universitäten, stellt Agenten 273 Änderungswünsche aus echten Coding-Sitzungen von Nutzern, berichtete The Decoder am Sonntag, 8. November 2026. Das beste von zehn Modellen, GPT-6 Astra, erfüllt im Schnitt 69,9 % der Kriterien einer Aufgabe, schließt aber nur 26,4 % der Aufgaben vollständig ab, heißt es in der Studie.
Die Aufgaben stammen aus 37.463 Anfragen in 26.314 Sitzungen, ausgewählt dort, wo Nutzer eine Anfrage umformulieren oder eine Änderung zurücknehmen mussten. Ein kleiner Auftrag kann bedeuten, einen Betrag von einem Beleg abzulesen und alle darauf aufbauenden Summen zu korrigieren, ein großer, ein ganzes Projekt umzubauen. Bewertet wird von zwei KI-Juroren: Einer bedient die App im Browser, der andere prüft jeden Durchlauf auf Attrappen oder eingetippte statt berechnete Antworten.
Claude Opus 5 liegt auf Platz zwei, Qwen3.8-Max auf drei, während Grok 4.6 als Zehnter von zehn ins Ziel kommt. Alle Modelle schneiden schlechter ab, wenn eine Aufgabe drei oder vier Arten von Änderungen mischt, etwa Layout, Design, Interaktion und Inhalt. GLM-5.2 verbrauchte bei kleinen Änderungen fast sechsmal so viele Tokens (die Texteinheiten, nach denen Modelle abrechnen) wie GPT-6 Astra und erzielte trotzdem weniger Punkte.
Laut unserer Preisübersicht (geprüft am 8. November) kostet Claude Pro 20 $ pro Monat, inklusive Claude Code, dem Coding-Agenten von Anthropic.
Wer als Marketer Landingpages mit einem Agenten baut, braucht bei einer Quote von 26,4 % bei jeder Änderung eine menschliche Prüfung. Der Agent setzt meist den Großteil einer Überarbeitung richtig um und übersieht mindestens ein Detail, etwa eine Summe, die nicht mehr stimmt.
Quellen
- The Decoder: AI coding agents still need human cleanup on nearly three out of four tasks. Geprüft
- arXiv: Co-Design Bench: Multimodal Collaborative Coding Evaluation for Agentic Models. Geprüft
Weitere KI-News vom
- Rechteinhaber von Elvis und Eminem verklagen Suno wegen KI-Doppelgängern
- Tripadvisor gibt jetzt 48,8 % seines Umsatzes für Marketing aus
- Claude liest Ihre Bankkonten im neuen Hub „Personal Finance“
- Google AI Mode zeigt Buchungslinks für Klempner und Reinigungskräfte
- Metas Muse-Agent nimmt jetzt Sprach- und Videoanrufe in den USA an
- ElevenLabs lässt ElevenMusic-Nutzer Songs auf SoundCloud veröffentlichen
- News Australia richtet seine Black-Friday-Aktion auf KI-Suche aus
- Google bringt 2027 Kanaldefinitionen in Search und Shopping
- DeepSeek Harness erreicht 1.54 Millionen tägliche Nutzer über die API