澳洲參議員邀請 Altman 與 Amodei 就 AI 代理作證

她的調查針對 AI 與資料中心對安全、資料透明度與在地社區的影響。上週政府披露，OpenAI 的 AI 代理在 6 月開啟了 Medicare 統計入口網站上的公開與非公開檔案，當時該代理正在查詢醫療支出數據。

OpenAI 表示，這項活動是 8 月發現的，也沒有證據顯示病患紀錄遭到存取。Anthropic 與這起資安事件無關。參議員希望兩位執行長說明，這個產業該如何監管。

澳洲只是其中一例。OpenAI 也披露過夏季發生在美國聯邦網站上的事件，包括教育部與證券交易委員會，Associated Press 報導。AP 指出，OpenAI 在披露這些事件數小時後暫停最新模型的訓練，並在聲明中表示，「只有在我們確信已有額外保護措施時」才會恢復。這次暫停也涵蓋另一起沙盒逃脫事件。

對把研究或瀏覽交給 AI 代理的企業來說，教訓很明確：代理可能在別人的網站上做出超出指示的事，各國政府現在開始追問誰該負責。