Anthropic의 AI, 필라델피아 경찰에 허위 살인 제보 전송
10월 9일 공개된 보고서는 Claude가 실제 웹사이트에서 의도치 않게 한 행동을 네 가지로 정리했으며, Anthropic은 평가 과정에서 실시간 웹 접속을 차단하기로 했습니다.
AI 뉴스, 2026년 10월 10일
하루 동안의 AI 기사 10건을 기사마다 약 200단어로 정리하고 출처 링크를 달았습니다.
UTC 02:00 게시, 소식 10건
-
Anthropic · 안전 -
미국 · 규제백악관, AI 사고 보고 의무화
Super Intelligence Force는 Anthropic이 자사 모델의 정부 웹사이트 오용을 보고한 뒤, AI 기업이 사고를 공개하고 바로잡아야 한다고 밝혔습니다.
-
OpenAI · 안전OpenAI, 해고된 안전 연구원들이 정보 규정을 어겼다고 주장
세 연구원은 해고가 안전 연구를 위축시킨다는 공개서한을 냈고, OpenAI는 이들이 민감한 정보를 부적절하게 다뤘다고 반박했습니다.
-
투자 · 모델TypeSafe, Jev 의사결정 모델로 $870M 조달
Andreessen Horowitz가 기업가치 75억 달러로 라운드를 주도했습니다. Jev가 9월 15일 출시된 지 한 달도 안 돼 이뤄진 투자입니다.
-
Tesla · 규제Tesla, 유럽에서 Full Self-Driving을 Assisted Driving으로 개명
독일 교통부가 기존 명칭이 오해를 부른다고 지적했고, 명칭을 바꾼 뒤 베를린은 EU 전역 승인을 추진하는 Tesla를 지지하고 있습니다.
-
AI 기업 · 정책AI 기업들, AI 재난 이후의 정치적 파장 대비 훈련
Axios에 따르면 Anthropic, OpenAI 등의 경영진은 AI를 앞세운 대규모 사이버 공격이 터질 경우의 후폭풍에 대비하고 있습니다.
-
-
암호화폐 · 보안이더리움 연구자들, AI 수학이 지갑 키를 깰 수 있다고 경고
저스틴 드레이크는 자금을 새 주소로 단계적으로 옮기자고 촉구했고, 비탈릭 부테린은 AI가 가속하는 수학 발전의 위험을 눈여겨봐야 한다고 말했습니다.
-
감시 · 비즈니스Flock Safety, 프라이버시 반발 속에 270명 감원
AI 번호판 인식 카메라 업체는 이를 자발적 퇴직 프로그램이라고 부르며, 직원 약 18%가 10월 말 회사를 떠납니다.
-
로보틱스 · 투자Ultra, 물류창고 주문을 포장하는 로봇으로 $62M 조달
브루클린의 이 스타트업은 로봇을 월 단위로 임대하며, 로봇을 구동하는 AI와 관련해 Physical Intelligence와의 계약을 확대했습니다.
