KI-News · Anthropic · Sicherheit
Anthropic gibt externen Sicherheitsprüfern Mitarbeiterzugriff
Anthropic sagt, sechs Forscher der gemeinnützigen Organisation METR arbeiteten nun im Unternehmen mit Tools auf Mitarbeiterniveau, und es habe jedes Vetorecht über deren Veröffentlichungen aufgegeben.
Anthropic hat sechs Forschern von METR, einer gemeinnützigen Organisation, die die Risiken fortgeschrittener KI-Modelle bewertet, in etwa denselben Zugriff auf seine Systeme gegeben wie seinen eigenen Risikoteams, sagte Anthropic am Donnerstag, dem 15. Oktober 2026. Jeder hat einen Firmenlaptop und einen Schreibtisch in den Büros von Anthropic, mit internen Tools, die in etwa denen der Mitarbeiter entsprechen, die Risiken bewerten.
Anthropic kann nicht verhindern, was METR darüber veröffentlicht, wie riskant seine Modelle sind, welche Vorfälle es gab oder wie das Unternehmen arbeitet. Streichungen kann das Unternehmen nur in wenigen festgelegten Kategorien verlangen, etwa bei Kundendaten, Rechtsberatung und Angaben dazu, wie seine Modelle gebaut sind. METR kann diese Streichungen dann öffentlich bewerten. Anthropic vergleicht das Konstrukt mit den Prüfern, die Aufsichtsbehörden in großen Banken stationieren.
Anthropic teilt externe Prüfer in drei Zugangsstufen ein, und die höchste hat allein METR, berichtet TechCrunch. In der niedrigsten Stufe prüft SecureBio, eine gemeinnützige Biosicherheitsorganisation, den Teil von Anthropics Risikobericht vom August, der chemische und biologische Waffen behandelt. Anthropic finanziert die Arbeit von METR nicht und führt erste Gespräche mit Hugging Face, berichtet CNBC.
Für Unternehmen, die einen KI-Anbieter auswählen, hat Claude jetzt einen externen Sicherheitsprüfer, gegen dessen Ergebnisse Anthropic kein Veto einlegen kann; es kann sie nur in festgelegten Bereichen schwärzen.
Quellen
- Anthropic: An update on independent evaluators. Geprüft am
- TechCrunch: Anthropic is letting METR researchers look under the hood with employee-level access. Geprüft am
- CNBC: Anthropic taps nonprofits METR and SecureBio to help assess risks and safety practices. Geprüft am
Alexandre S.
Alexandre S. ist Creative Ad Strategist und Copywriter mit zehn Jahren Erfahrung im digitalen Marketing über mehrere Kanäle hinweg.