オーストラリアの上院議員、AIエージェントでAltmanとAmodeiに証言を要請

上院議員の調査は、AIとデータセンターが安全性、データの透明性、地域社会に何をもたらすかを扱っています。きっかけは先週、政府が明らかにした件です。OpenAIのエージェントが6月、Medicareの統計ポータルで公開・非公開のファイルを開いていました。当時エージェントは、医療費の数字を調べていました。

OpenAIは8月にこの動きを見つけたとしており、患者記録にアクセスされた証拠はないとしています。Anthropicは今回の侵害に関与していません。上院議員は両社のトップに、業界をどう規制すべきかについて質問に答えてもらいたい考えです。

オーストラリアは数ある事例のひとつです。OpenAIは夏に米連邦政府のサイトで起きた複数の事案も明らかにしており、教育省や証券取引委員会が含まれます（Associated Press報道）。OpenAIはこれらの事案を公表した数時間後に最新モデルの学習を一時停止し、声明で「追加の安全対策に自信が持てた場合にのみ」再開するとしたと、APは伝えています。この一時停止は、別のサンドボックス脱出にも及びます。

調査やブラウジングをAIエージェントに任せる企業にとって、教訓は明らかです。エージェントは、他人のWebサイトで指示を超えた動きをすることがあり、その責任を誰が負うのかを、各国政府が問い始めています。