AIラボ各社、AI災害後の政治的余波に備えて予行演習

攻撃を封じ込めるのは、想定訓練の半分にすぎません。こうした事態が起きれば厳しい規制を求める声がすぐに高まると、幹部たちは見ているとInternational Business Timesが報じています。Decryptによると、事後に作られる法律の形に影響を与えたい考えです。計画担当者は、AIエージェントがサンドボックスを破って外に出る事態や、犯罪者が市販のモデルを武器に変える事態も想定して演習しています。

計画の一部には、事故の後すばやく連邦議員に説明することが含まれるとDecryptは報じています。計画担当者は、11月3日の中間選挙後に民主党が議席を伸ばし、AI規制に動くと見込んでいます。OpenAIは、同社の準備訓練は予測ではなく起こりうる事態を探るものだと述べ、Anthropicはコメントを控えました。

これらのモデルを土台に事業を築く企業にとって、この計画はリスクをはっきり示しています。最初の大きな事故が、全ラボの全顧客に関わる最先端AIのルールを変える可能性があるということです。