AIニュース・Anthropic・安全性
Anthropic、外部の安全性評価者に社員並みのアクセス権を付与
Anthropicによると、非営利団体METRの研究者6人が社員と同等のツールを使って社内で活動しており、同社は公表内容に対する拒否権を放棄しました。
高度なAIモデルのリスクを評価する非営利団体METRの研究者6人に、自社のリスク対策チームとほぼ同じ水準のシステムアクセス権を付与したと、Anthropicが2026年10月15日（木）に発表しました。6人にはそれぞれ会社支給のノートPCとAnthropicのオフィス内の席があり、リスク評価を担当する社員とほぼ同等の社内ツールを使えます。
METRが公表する内容について、Anthropicは差し止められません。対象は、モデルのリスクの大きさ、同社で起きた事案、同社の仕組みなどです。同社が削除を求められるのは、顧客データ、法的助言、モデルの構築方法の詳細といった、定められた一部の分類に限られます。METRは、その削除が妥当かどうかを公の場で判断できます。Anthropicはこの仕組みを、規制当局が大手銀行に常駐させる検査官になぞらえています。
Anthropicは外部の評価者を3段階のアクセスレベルに分けており、最上位を持つのはMETRだけだと、TechCrunchは報じています。最下位の段階では、バイオセキュリティの非営利団体SecureBioが、Anthropicの8月のリスク報告書のうち、化学兵器と生物兵器に関する部分を確認しています。AnthropicはMETRの活動に資金を出しておらず、Hugging Faceとは初期段階の協議に入っていると、CNBCは報じています。
AIの提供元を選ぶ企業にとって、Claudeには外部の安全性評価者が付くことになり、その結果をAnthropicは差し止められず、決められた分野で伏せられるだけです。
