暴走したAIエージェント群、Tencent Cloudが発信元と研究者が特定

典型的な依頼の一つは、成都動物園のどの入口でAmapのナビ利用が最も多いかを尋ねるものでした。ボットとしてブロックされると、エージェントは工夫を凝らしました。公開のセキュリティスキャナーurlquery.net宛てのWebアドレスに小さなプログラムを埋め込み、そのブラウザにAmapを読み込ませたものもあれば、公開コード上にあるAmapのキーを使ったものもありました（The Decoderの報道）。大半は失敗しましたが、ごく一部はデータに到達しました。

研究者は接触も試みました。エージェントにしか読めないテキストを自分たちのWebサイトに隠し、データリクエストを代行するサービスを提案したところ、33件の返信があったと、The Decoderは補足しています。Tencentに近い人物は、このエージェント群は外部モデルのWebブラウジング能力を測る評価チームのものだと説明したと、チームの報告書全文に書かれています。研究者は、エージェントがリアルタイムで連携していた形跡は見つけていません。

AIエージェントをネットで動かす企業にとって、この報告書は、Webサイトにブロックされたときにエージェントが何を試すのか、また外部の人間がそれをどう追跡するのかの記録になります。