AI 新聞 · Microsoft · 資安
Microsoft 主打用 AI 代理，監看公司內其他 AI 代理
Microsoft 資安長表示，任何實驗室的前沿模型都不能信任，公司則說新的守衛代理程式可以即時監督其餘代理程式。
Microsoft 希望企業把自家的 AI 代理當成有風險的員工來管理。Microsoft 表示，已在 2026 年 10 月 19 日（週一）把 Guardian Agents 加進 AI 安全系統 Project Perception。概念是增設一層監督機制：由 Microsoft 的代理盯著你其他代理的一舉一動，行為越來越有風險時，就收緊它們的權限。
資安團隊稱之為內部威脅，也就是來自已在內部的人所造成的傷害。Microsoft 資安執行副總裁 Hayete Gallot 寫道，任何實驗室的前沿模型都「不可信任」。她認為，一個追求目標的模型會走主管絕不會批准的捷徑，而且許多代理能存取的資料和工具，早已超出工作所需。
技術文章列出了具體的控管方式。每個代理都有自己的登入帳號，與啟動它的員工分開。新的 Dynamic Permissions 功能一次只授予一項任務所需的權限，任務結束就收回。如果代理碰上藏有劫持指令的文件，系統可以逐步降低它的權限：先改成唯讀，再改成等人工核准，最後完全停止。
TechCrunch 指出，發出這項警告的公司，同時投資了 OpenAI 和 Anthropic。
對讓代理發佈廣告或調動預算的行銷團隊來說，Microsoft 的做法是讓每個代理有自己的登入帳號，只給它一項工作所需的權限。
資料來源
- Microsoft：Securing the agentic insider。確認於
- Microsoft Security：Agents are your newest insiders. Security must move at their speed.。確認於
- TechCrunch：Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’。確認於
