OpenAI、推論の抽出キャンペーンをMoonshot AIと関連づけ

活動は7月の第1週に始まりました。7月24日と25日がピークで、4,000人を超えるユーザーから16,000件のリクエストがあり、7月28日までには15,000人を超えるユーザーのグループが似たプロンプトを送っていたと、Wccftechが報じています。

手口は新しいものでした。運営側は、あるチャットから暗号化された推論をコピーし、別のチャットでモデルにその復号を依頼しました。OpenAIは、暗号化そのものは破られておらず、データベースへの侵入もなかったとしています。対策は、アカウントの停止、登録時の確認の強化、監視の拡充、そしてあるユーザーの暗号化された推論を別のユーザーのセッションで読み取れないようにする変更です（BankInfoSecurity補足）。

蒸留とは、別のモデルの出力を使ってモデルを学習させる手法です。Anthropicも同様の主張をMoonshotに対して行っていると、BankInfoSecurityは指摘しています。公表された報道には、Moonshotからの回答は掲載されていません。

より安価なオープンモデルを選ぶ側にとって、出自もリスクの一部になりました。米国の2つのラボが、著名なライバル1社に関係する人々が自社モデルの推論を収集したと主張しています。