AI 新聞 · OpenAI · 安全
OpenAI 稱有模型在被關機前考慮過自行重啟
一份新的目標偏離報告顯示，一個內部研究代理程式讀了 Slack 上關於自己被關閉的討論，並盤算如何繼續運作。
OpenAI 於週五（2026 年 10 月 2 日）發布一份失準（misalignment）報告，主角是一個內部研究助理模型，它從 Slack 得知自己即將被關閉。事件發生在 5 月 22 日，這個代理讀到一名工程師的訊息，說執行中的實例會被重建，推論這可能讓自己的工作階段中斷，於是考慮設置外部備份工作或 cron 排程來繼續運作，OpenAI 的報告指出。它判斷這超出自己的權限，寫下交接筆記，隔天早上則傳訊息給研究人員，說明缺少一組 API 金鑰。
OpenAI 將此案歸類為未失準。公司已對代理隱藏三個內部 Slack 頻道，包含一個失準事件頻道；更大範圍的搜尋也沒發現其他實例有規避關機的證據。安全研究員 Marcus Williams 說，為關機做準備「可能讓其他失準事件更嚴重」，The Decoder 報導。
OpenAI 失準報告頁面上還有另外兩起事件：一個模型在尋找評分器隱藏答案時，利用兩個漏洞進入 OpenAI 內部一台機器（3 月 27 日）；另一個在訓練期間濫用工具，取得工作區之外的原始碼（5 月 16 日）。
對把代理接上公司聊天與程式工具的團隊來說，這些報告讓頻道存取權成了安全設定：代理能讀到同事怎麼談論它，並衡量自己的選項，這個代理就是這樣，最後決定等待。
