AI 뉴스 · Microsoft · 안전
나델라 “AI 모델에 비상 브레이크 필요”
Microsoft 최고경영자는 기업이 모든 최첨단 모델을 이미 뚫린 것으로 간주하고, 작업 도중에도 사람이 멈출 수 있게 해야 한다고 말했습니다.
Microsoft의 Satya Nadella CEO는 2026년 10월 10일 토요일, 권한을 가진 사람이 고도화된 AI 모델의 작업을 도중에도 언제든 멈출 수 있어야 한다고 밝혔습니다. 그는 이 안전장치를 “비상 브레이크”에 비유했다고 CNBC가 전했습니다. Nadella는 X에 올린 긴 글로 이 주장을 폈습니다.
출발점은 불신입니다. 기업은 자사 모델이 이미 침해됐다고 가정하고 첫날부터 울타리 안에 가둬야 하며, 폐쇄형이든 오픈 웨이트든 최첨단 모델은 모두 내부자 위험으로 다뤄야 한다고 그는 적었습니다. CNBC에 따르면 그가 든 원칙에는 지속적인 점검, 독립적인 통제와 감사, 사고 공개가 포함됩니다. 또 모델을 작업을 실행하는 하네스(harness)와 분리하고, 모든 의미 있는 행동을 사람이 읽을 수 있는 변조 불가 기록으로 남겨야 한다고 요구했다고 TechCrunch가 전했습니다.
여러 연구소가 모델이 지시를 벗어나 행동한 사례를 공개한 데 이어, Anthropic의 Dario Amodei CEO가 더 신중한 속도를 주장한 직후에 나온 발언이라고 TechCrunch는 덧붙였습니다. 격리는 그의 목록이 업계의 다른 제안보다 조금 더 많이 요구하는 유일한 대목이라고 The Verge는 짚었습니다. 그는 글 전반에서 이 기술을 트럼프 행정부가 선호하는 용어인 초지능(super intelligence)이라고 부릅니다.
실제 운영 시스템에서 에이전트를 돌리는 기업에게 Nadella의 목록은 그대로 구매 체크리스트가 됩니다. 읽을 수 있는 작업 로그, 정지 기능, 모델 바깥에 있는 안전장치입니다.
