MicrosoftのBrad Smith氏「AIは牛乳より規制が緩い」

Smith氏の提案は具体的です。まず企業は、暴走したAIシステムを止める「緊急ブレーキ」（キルスイッチとも呼ばれます）を備えるべきだとしています。インシデント報告書を提出し、暴走したAIエージェントがシステムに侵入した場合は被害者に通知することを法的に義務づけるべきとも述べています。さらに、独立した政府の評価機関が、新しいAI製品を公開前にチェックすべきだとしています。

業界の自主規制を望むトランプ大統領とは立場が食い違うと、BBCは指摘しています。Smith氏は、先月AI企業のトップがホワイトハウスで署名した自主的な誓約にMicrosoftも喜んで署名すると述べつつ、それだけではもはや十分ではないとしました。

主導役に最もふさわしい国として、Smith氏は英国を挙げました。公開前の新モデルをチェックする政府機関「AI Security Institute」があるためです。先月、トランプ大統領はAnthropicとOpenAIに、新モデルを英国の検証機関に渡さないよう求めたと報じられました。月曜日には同機関が、最新モデルにアクセスして検証できる状態にあると表明しました（TechCrunch報道）。

最大手のAI提供企業の1社が拘束力のあるルールを求めたことで、AIエージェントのインシデント報告を法的に義務づける案にMicrosoftが賛同する形になりました。