AI 新聞 · Meta · Muse
Meta 員工指出 Muse 會混淆他人訊息
路透社看到的內部對話顯示,員工回報出現不明的銀行餘額,以及來自從未連結 App 的聊天內容;Meta 表示屬個案,且許多是幻覺,目前已處理。
根據路透社在 2026 年 11 月 18 日(週三)報導的內部聊天紀錄,使用過 Muse 早期版本的 Meta 員工向同事反映,這款公司自家的 AI 代理人似乎會把不同使用者的對話混在一起,還會打開使用者沒料到它會讀取的加密訊息。Signal 等其他 App 的對話也出現在其中,有些員工甚至從未連結過這些 App,The Verge 報導。
在一則關於釣魚的對話中,Muse 未經詢問就多加了一行,列出員工不認得的 Capital One 與 Charles Schwab 帳戶餘額。另一名員工表示,這個代理人替他訂閱了每月 888 美元的高階寵物保險方案,而他原本付的是 200 美元,且代理人無法取消,Ars Technica 報導。路透社表示,無法確定 Muse 顯示的是其他帳戶的真實資料,還是自行編造。
Meta 發言人 Daniel Roberts 對路透社表示,這些都是個案,許多疑似帳號混淆的情形其實是幻覺,也就是模型自行編造的回覆,Meta 已經處理。Meta 也告訴 Ars,員工使用的 Muse 版本與公眾版本不同。Muse 在 9 月推出後,Meta 的 David Singleton 表示,指令更新中的一個錯誤導致模型編造訊息,目前已修正。
路透社與 Signal 及 AI Now Institute 的人員合作發現,Android 版 Muse 仍可透過設定時授予的權限讀取 Signal 訊息,繞過 Meta 的 Connector 工具。
對評估 Muse 的品牌來說,Android 的發現分量最重:路透社已與 Signal 和 AI Now Institute 重現這個問題,而員工的反映只來自 Meta 稱為個案的內部聊天。
資料來源
更多 的 AI 新聞
- AppLovin 洽談收購 Criteo,路透社報導
- Google 推出 Gemini 4 Neon,AI Pro 訂閱者與開發者可用
- ChatGPT Business Hub 條款限縮出版商可提出的求償
- Google Ads 將飯店與旅遊廣告格式綁定 AI Max
- Suno 以 MiniMax 模型新增 15 秒音樂影片
- Microsoft MAI Image 2.7 編輯圖片,每 1,000 約 35 美元
- adMarketplace 稱 AI 聊天廣告轉換率一年成長 156%
- Snapchat 讓 Claude Code 與 Codex 可建置並發布 Lens
- Google AI Mode 新增不做個人化的臨時對話串
- Invoca AI 代理人現可傳簡訊給來自表單、來電與結帳的潛在客戶
- Hyundai Card 向合作品牌開放 AI 行銷模型