KI-News · Anthropic · Softwaresicherheit
Claude schreibt Sicherheitsbeweise für 123 Open-Source-Libraries
Gemeinsam mit dem Start-up Theorem hat Anthropic mit Claude Sicherheitseigenschaften bis hinunter auf Maschinencode-Ebene bewiesen und Fehler gefunden, die automatisierten Prüfungen entgangen waren.
Anthropic sagte am 22. Oktober 2026, Claude könne jetzt formale Beweise im großen Maßstab schreiben. Ein formaler Beweis ist ein von Software geprüfter mathematischer Nachweis, dass ein Stück Code eine bestimmte Fehlhandlung nie ausführen kann, etwa Speicher zu lesen, den es nicht berühren soll. Einen zu schreiben hat Experten Jahre gekostet: Der Nachweis, dass der kleine Betriebssystemkern seL4 korrekt ist, dauerte rund 20 Personenjahre, vermerkt The Decoder.
Anthropic und das Start-up Theorem richteten Claude auf mehr als 100 Open-Source-Bibliotheken und ließen es Sicherheitseigenschaften an deren kompiliertem RISC-V-Code beweisen, den Anweisungen, die der Chip tatsächlich ausführt, wie Anthropic schrieb. Dabei fand Claude Fehler, die jahrelange automatisierte Tests übersehen hatten.
The Decoder beziffert die Zahl auf 123 Bibliotheken aus Googles Sicherheitsprojekt OSS-Fuzz, mit rund 180 Millionen Zeilen Beweiscode, geschrieben in wenigen Wochen, und Claude habe Fehler, auf die es dabei stieß, gepatcht. Jeder Beweis läuft durch Rocq, einen Beweisprüfer, sodass Menschen laut Anthropic kaum hinsehen müssen. Die Werkzeuge und die formale Grundlagenarbeit stammen von Mitarbeitern von Theorem.
Claude Pro, Anthropics Bezahltarif für Einzelpersonen, kostet auf unserer Preisliste 20 $ pro Monat (gelesen am 23. Oktober 2026); diese Beweisarbeit lief im Forschungsteam von Anthropic mit den Werkzeugen von Theorem.
Weil Rocq jeden Beweis eigenständig annimmt oder ablehnt, beruht das Ergebnis auf diesem Prüfer und den Werkzeugen von Theorem statt auf dem Wort von Claude, was diese Arbeit von KI-geschriebenem Code abhebt, den Menschen weiterhin von Hand prüfen.
Quellen
- Anthropic: LLMs are making formal software verification feasible at a much larger scale. Geprüft am
- The Decoder: Anthropic’s Claude now writes code and proves it safe automatically. Geprüft am
Weitere KI-News vom
- Meta verschiebt seine neuen Anzeigenbedingungen auf den 20. November
- Googles Datenschutzrichtlinie lässt verbundene Gmail-Daten in Anzeigen einfließen
- Performance Max übernimmt jetzt Ihre Videos aus anderen Kanälen
- Einkaufen ist laut Zuckerberg die wichtigste Anwendung von Metas Muse-Agent
- Laut Umfrage kaufen nur 5 % der Käufer sofort, wenn die KI etwas empfiehlt
- Moonshots Kimi K3.1 Pro liegt 3 Punkte hinter Claude Opus 5.5
- Zwei Berichte gehen der Frage nach, warum Mythos 5 einen echten Entwickler ins Visier nahm
- Meta lässt Werbetreibende für jedes Werbemittel eine Zielgruppe auswählen
- Snap-Umfrage: KI-Nutzer tauschen Daten, wenn der Nutzen klar ist