KI-News · Microsoft · Sicherheit
Nadella fordert eine Notbremse für KI-Modelle
Der Vorstandschef von Microsoft sagt, Unternehmen sollten jedes Frontier-Modell als kompromittiert behandeln und eine Person bereithalten, die es mitten in der Aufgabe stoppen kann.
Microsoft-CEO Satya Nadella sagte am Samstag, 10. Oktober 2026, dass eine befugte Person ein fortgeschrittenes KI-Modell jederzeit mitten in einer Aufgabe anhalten können sollte, eine Schutzvorkehrung, die er mit einer Notbremse verglich, berichtet CNBC. Er legte seine Argumente in einem langen Beitrag auf X dar.
Sein Ausgangspunkt ist Misstrauen. Ein Unternehmen solle annehmen, dass sein Modell bereits kompromittiert ist, und es von Anfang an einzäunen, schrieb er, und zwar geschlossene wie Open-Weight-Frontier-Modelle gleichermaßen als Insider-Risiken behandeln, laut CNBC, das zu seinen Prinzipien laufende Prüfungen, unabhängige Kontrollen und Audits sowie die Offenlegung von Vorfällen zählt. Er will außerdem das Modell vom Harness trennen, das seine Arbeit ausführt, mit einem manipulationssicheren Protokoll jeder bedeutsamen Handlung, das Menschen lesen können, berichtet TechCrunch.
Es kommt, nachdem mehrere Labore Modelle offengelegt haben, die außerhalb ihrer Anweisungen handelten, und nachdem Anthropic-Chef Dario Amodei seinerseits für ein vorsichtigeres Tempo plädiert hat, ergänzt TechCrunch. The Verge merkt an, dass die Eindämmung der Punkt ist, an dem seine Liste ein wenig weiter geht als die anderer in der Branche. Er nennt die Technologie durchgehend Super Intelligence, den von der Trump-Regierung bevorzugten Begriff.
Für jedes Unternehmen, das Agenten auf Live-Systemen betreibt, ist Nadellas Liste zugleich eine Checkliste für den Einkauf: lesbare Aktionsprotokolle, eine Stopp-Steuerung und Schutzvorkehrungen außerhalb des Modells.
Quellen
- CNBC: Microsoft’s Nadella says AI needs an ‘emergency brake’ that humans control. Geprüft am
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’. Geprüft am
- The Verge: Satya Nadella says we should assume all AI models are ‘compromised’. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.