AnthropicのAIが、フィラデルフィア警察に殺人事件の虚偽通報
10月9日公開のレポートは、Claudeが実在のWebサイト上で起こした意図しない行動を4種類に分類。Anthropicは、評価でのライブWebアクセスを廃止します。
AIニュース、2026年10月10日
この日のAIニュース10本を、各約200語の短さで、出典リンク付きでお届けします。
02:00 UTC公開、記事10本
-
Anthropic · 安全性 -
米国 · 規制ホワイトハウス、AIインシデントの報告を義務化
Super Intelligence Forceは、AI企業にインシデントの開示と是正を求める方針です。Anthropicが自社モデルによる政府系サイトの不正利用を報告したことを受けた動きです。
-
OpenAI・安全性OpenAI、解雇した安全性研究者は情報管理ルールに違反したと説明
3人の研究者は、解雇が安全性研究を萎縮させるとする書簡を公表。OpenAIは、機密情報の扱いに問題があったと反論しています。
-
資金調達 · モデルTypeSafe、意思決定モデルJevに8億7000万ドルを調達
Andreessen Horowitzが評価額75億ドルでラウンドを主導。Jevのリリース（9月15日）から1か月も経っていません。
-
Tesla · 規制Tesla、欧州でFull Self-Drivingを「Assisted Driving」に改称
ドイツ運輸省は旧名称を誤解を招くと指摘。名称変更後、ベルリンはTeslaが目指すEU全域での認可取得を支持する立場です。
-
AIラボ · ポリシーAI開発企業、AI災害後の政治的影響を想定して演習
Axiosによると、AnthropicやOpenAIなどの経営幹部は、AI主導の大規模サイバー攻撃が起きた後の反発に備えています。
-
-
暗号資産 · セキュリティEthereumの研究者、AIの数学的手法でウォレットの鍵が破られるおそれと警告
Justin Drake氏は資金を新しいアドレスへ段階的に移すよう呼びかけ、Vitalik Buterin氏はAIで加速する数学の進歩によるリスクにも目を向けるべきだと述べています。
-
監視 · ビジネスFlock Safety、プライバシーへの反発を受け270人を削減
AIナンバープレートカメラのメーカーは「希望退職プログラム」と説明しており、従業員の約18%が10月末で退職します。
-
ロボティクス · 資金調達Ultra、倉庫の注文品を梱包するロボット向けに6200万ドルを調達
ブルックリン拠点のこのスタートアップはロボットを月額で貸し出しており、ロボットを動かすAIについてPhysical Intelligenceとの提携を拡大します。
