AI 新聞 · Microsoft · 安全
納德拉呼籲為 AI 模型設置緊急煞車
Microsoft 執行長表示，企業應把每個前沿模型都視為已遭入侵，並確保有人能在任務進行中隨時叫停。
CNBC 報導，Microsoft 執行長納德拉在 2026 年 10 月 10 日（週六）表示，有權限的人應該隨時能在先進 AI 模型執行任務的途中讓它停下來，他把這項保障比喻為「緊急煞車」。他在 X 上發了一篇長文闡述這個主張。
他的出發點是不信任。他寫道，企業應假設自家模型早已遭到入侵，從第一天就把它圈起來管，封閉與開放權重的前沿模型一律視為內部風險。CNBC 指出，他的原則還包括持續檢查、獨立控管與稽核，以及事故揭露。他也希望模型與負責執行工作的框架（harness）分開，並留下人看得懂、無法竄改的重大動作紀錄，TechCrunch 報導。
TechCrunch 補充，這番話發表之前，已有數家實驗室揭露模型出現違反指令的行為，Anthropic 執行長 Dario Amodei 也主張放慢腳步、謹慎行事。The Verge 指出，在隔離機制這一點上，他的清單比業界其他人要求得略高一些。他通篇都稱這項技術為超級智慧，這是川普政府偏好的用語。
對任何在正式系統上跑代理的企業來說，納德拉的清單可以直接當採購檢核表：看得懂的動作紀錄、停止控制，以及設在模型之外的防護機制。
