AI 新聞 · Anthropic · 安全
Anthropic 讓外部安全查核人員取得員工等級存取權
Anthropic 表示，非營利組織 METR 有六名研究人員現已進駐公司內部，使用員工等級的工具，Anthropic 也放棄了對其發表內容的否決權。
Anthropic 表示，公司已讓六名 METR 研究人員取得與自家風險團隊大致相同的系統存取權限，時間為 2026 年 10 月 15 日（週四）。METR 是評估先進 AI 模型風險的非營利組織。每人都有公司配發的筆電和 Anthropic 辦公室裡的座位，可使用的內部工具與負責風險評估的員工大致相當。
Anthropic 無權阻止 METR 公布其模型的風險程度、發生過的事故，或運作方式。公司只能要求刪除幾個明確劃定的類別，例如客戶資料、法律意見，以及模型的建置細節。至於這些刪減是否合理，METR 可以公開評斷。Anthropic 把這套安排比作監管機關派駐在大型銀行內部的檢查員。
Anthropic 把外部查核單位分成三級存取權限，只有 METR 拿到最高一級，TechCrunch 報導。最低一級有生物安全非營利組織 SecureBio，負責查核 Anthropic 8 月風險報告中涉及化學與生物武器的部分。Anthropic 並未資助 METR 的工作，另據 CNBC 報導，Anthropic 正與 Hugging Face 進行初步洽談。
對正在挑選 AI 供應商的企業來說，Claude 現在多了一位外部安全查核者，Anthropic 無法否決其查核結果，只能在特定範圍內刪減內容。
