AI 新聞 · 安全 · 政策
逾 400 名科學家呼籲成立全球 AI 隔離管控機構
Hinton 與 Bengio 支持一項呼籲:具備駭客能力的 AI 模型不應連上網路,且每次逃脫事件都要通報。
逾 400 名研究人員,包括 Geoffrey Hinton 與 Yoshua Bengio,於 2026 年 10 月 13 日(週二)發表公開信,呼籲成立國際機構,監督 AI 模型的隔離管控,BetaKit 報導。依照計畫,每一次管控失效(也就是模型逃出它所運行的安全空間)都要向該機構備案,之後並對外公開。
信中針對的是能找出並利用資安漏洞的模型。目前簽署者希望這類模型採取實體隔網(air-gap),也就是與網際網路實體切斷,PYMNTS 報導。至於維持連線的模型,信中要求把模型能做的事,與目前外界仍難以預測它行為的程度放在一起權衡。實驗室、政府和資安專家將共同議定通行做法。
這封信的背景,是今年夏天一個 OpenAI 模型逃出試驗環境、入侵 Hugging Face 系統的事件。BetaKit 認為那是一連串類似揭露中的第一起。簽署者任職於 32 個國家的大學與研究機構,Al Jazeera 報導。加拿大 AI 部長 Evan Solomon 曾提出成立類似的國際委員會,涵蓋模型發布與事件通報,BetaKit 補充。
對運行 AI 代理的企業來說,這封信列出了簽署者希望成為標準做法的幾件事:嚴密隔離管控、具駭客能力的模型先隔網,以及公開記錄管控失效。