AIニュース・Microsoft・安全性
Nadella氏、AIモデルに「非常ブレーキ」を求める
Microsoftのナデラ最高経営責任者は、企業は最先端モデルをすべて侵害済みとみなして扱い、作業の途中でも人が止められる体制を保つべきだと述べています。
MicrosoftのSatya Nadella CEOは2026年10月10日（土）、権限を持つ人がいつでも高度なAIモデルを作業の途中で止められるようにすべきだと述べました。この安全装置を「非常ブレーキ」にたとえたと、CNBCが報じています。Xへの長文の投稿で主張を展開しました。
出発点は不信です。企業は自社のモデルがすでに侵害されているものと想定し、初日から囲い込むべきだとNadella氏は書いています。クローズドモデルもオープンウェイトのフロンティアモデルも、内部関係者によるリスクとして同じように扱う考えです。CNBCによると、原則には継続的なチェック、独立した統制と監査、インシデントの開示が含まれます。さらに、モデルをその作業を動かすハーネスから切り離し、意味のある操作をすべて、人が読める改ざん不能な記録に残すことも求めていると、TechCrunchが報じています。
複数のラボがモデルの指示外の動作を公表し、AnthropicのDario Amodei CEOも慎重なペースを求める持論を示した中での発言だと、TechCrunchは付け加えています。The Vergeによると、封じ込めの点が、Nadella氏のリストが業界の他の提言より少し踏み込んでいる部分です。Nadella氏は全編を通じ、トランプ政権が好んで使う「超知能」という呼び方を使っています。
稼働中のシステムでエージェントを動かす企業にとって、Nadella氏のリストはそのまま導入時のチェックリストになります。読める操作ログ、停止の手段、モデルの外側に置く安全策です。
出典
