元Anthropic研究者のCoxon氏、ニューヨーク市議会で証言へ

証言を求めたのは、AI関連の法案をまとめて審議している市議会のJulie Menin議長です。証言者には、元Google DeepMindのAlex Turner氏と、元OpenAIで現在はAI Futures Projectを率いるDaniel Kokotajlo氏という、元ラボ研究者2人も名を連ねています。Anthropic、OpenAI、Google、Metaは政策・安全担当者を送ります。最初に参加を決めたのはMetaで、残る3社はMenin議長の事務所が召喚状の可能性に触れた後に続いたと、Bloombergは報じています。

ある法案は、AI企業から徴収した罰金の一部を内部告発者に支払う内容です。ほかに、AIで被害を受けた人が一定の場合に開発者を訴えられるようにする法案や、一部のシステムに市内での提供開始前に外部の検証を義務づける法案があります。

ニューヨークに顧客を持つAIベンダーにとって、製品に直接かかわるのは検証法案です。システムを市内で稼働させる前に、外部の検証を求める内容だからです。