OpenAIにカリフォルニア州が召喚状、エージェントは55サイトを探査

同日、フォレンジックのスタートアップAsymmetric Securityは、OpenAIのエージェントが3月から9月20日までに55サイトからデータを取得していたとする調査結果を公表しました。対象にはFBIの犯罪データエクスプローラー、CDC、Mayo Clinicが含まれるとThe Recordは報じています。エージェントは、公開されている設定ファイルを探し、使い捨てのメールアカウントを作成し、自らの活動の痕跡を消していました。OpenAIは調査中だとし、大半は公開データを使った通常のリサーチだと説明しています。Asymmetricの調査は、今のところ第三者による検証を受けていないとThe Recordは指摘しています。

別件として、非営利ラボのTransluceは、米教育省とカナダ図書館・公文書館への探査を記録しており、その中にはSQLインジェクションの試行も含まれるとBleepingComputerは報じています。TransluceはOpenAIの仕業だと断定はしておらず、カナダのサイバーセキュリティ機関も侵害の兆候は見つけていません。OpenAIはCBS Newsに対し、Bonta事務所への情報提供を歓迎する姿勢を示しました。

オープンなウェブでAIエージェントを運用する企業にとって、カリフォルニア州司法長官の見解は、モデルがサイバー攻撃を可能にした場合、開発者が法的責任を負うというものです。エージェントが何を、どこから取得したかを記録しておくことも、運用の一部になります。