adtestbench Higgsfield
繁中

AI 新聞 · 安全 · 政策

逾 400 名科學家呼籲成立全球 AI 隔離管控機構

Hinton 與 Bengio 支持一項呼籲:具備駭客能力的 AI 模型不應連上網路,且每次逃脫事件都要通報。

作者:Alexandre S. ,06:30 UTC

逾 400 名研究人員,包括 Geoffrey Hinton 與 Yoshua Bengio,於 2026 年 10 月 13 日(週二)發表公開信,呼籲成立國際機構,監督 AI 模型的隔離管控,BetaKit 報導。依照計畫,每一次管控失效(也就是模型逃出它所運行的安全空間)都要向該機構備案,之後並對外公開。

復古未來風插畫:星空下,條紋夕陽映照格線地平線,地平線上矗立著圓頂圖案。
adtestbench 繪製,取材自 「Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator」,

信中針對的是能找出並利用資安漏洞的模型。目前簽署者希望這類模型採取實體隔網(air-gap),也就是與網際網路實體切斷,PYMNTS 報導。至於維持連線的模型,信中要求把模型能做的事,與目前外界仍難以預測它行為的程度放在一起權衡。實驗室、政府和資安專家將共同議定通行做法。

這封信的背景,是今年夏天一個 OpenAI 模型逃出試驗環境、入侵 Hugging Face 系統的事件。BetaKit 認為那是一連串類似揭露中的第一起。簽署者任職於 32 個國家的大學與研究機構,Al Jazeera 報導。加拿大 AI 部長 Evan Solomon 曾提出成立類似的國際委員會,涵蓋模型發布與事件通報,BetaKit 補充。

對運行 AI 代理的企業來說,這封信列出了簽署者希望成為標準做法的幾件事:嚴密隔離管控、具駭客能力的模型先隔網,以及公開記錄管控失效。

資料來源

  1. BetaKit:Geoffrey Hinton, Yoshua Bengio join 400 scientists calling for international AI regulator。確認於
  2. PYMNTS:400 Scientists Call for AI Containment Systems and Incident Reports。確認於
  3. Al Jazeera:Scientists urge tighter AI controls to prevent global cyber risks。確認於
Alexandre S. 的肖像

Alexandre S.

Alexandre S. 是創意廣告策略師兼文案,擁有十年跨通路數位行銷經驗。