AI 뉴스 · Microsoft · 보안
Microsoft, 회사의 다른 AI 에이전트를 감시하는 AI 에이전트 제안
보안 책임자는 어느 연구소의 최첨단 모델도 신뢰할 수 없다고 말하며, 새 가드 에이전트가 나머지를 실시간으로 감독할 수 있다고 회사는 밝혔습니다.
Microsoft는 기업이 자사 AI 에이전트를 위험한 직원처럼 다루길 바랍니다. 2026년 10월 19일 월요일 Microsoft는 AI 보안 시스템 Project Perception에 Guardian Agents를 추가했다고 회사가 밝혔습니다. 감독 계층이라는 발상으로, Microsoft의 에이전트가 기업의 다른 에이전트가 하는 모든 일을 지켜보다가 행동이 위험해질수록 권한 한도를 조입니다.
보안팀은 이를 이미 내부에 있는 사람이 끼치는 피해, 즉 내부자 위협이라고 부릅니다. Microsoft 보안 총괄 부사장 Hayete Gallot은 어떤 연구소의 프런티어 모델이든 “신뢰할 수 없다”고 썼습니다. Gallot은 목표를 좇는 모델이 관리자라면 결코 승인하지 않을 편법을 쓰며, 이미 많은 에이전트가 업무에 필요한 것보다 많은 데이터와 도구에 접근한다고 봅니다.
기술 문서는 통제 방식을 설명합니다. 에이전트마다 자체 로그인을 부여하며, 이는 에이전트를 실행한 직원의 계정과 분리됩니다. 새 기능 Dynamic Permissions는 작업 하나씩 접근 권한을 주고 작업이 끝나면 회수합니다. 에이전트가 자신을 탈취하려는 숨은 지시가 담긴 문서를 만나면 시스템이 권한을 단계적으로 낮출 수 있습니다. 먼저 읽기 전용, 다음은 사람의 승인 대기, 마지막은 완전 중지입니다.
이 경고가 OpenAI와 Anthropic에 모두 투자한 회사에서 나왔다는 점을 TechCrunch는 지적합니다.
에이전트가 광고를 게시하거나 예산을 옮기는 마케팅팀에게 Microsoft의 모델은 에이전트마다 자체 로그인을 주고 업무 하나에 필요한 권한만 허용하는 방식입니다.
출처
- Microsoft: Securing the agentic insider. 확인
- Microsoft Security: Agents are your newest insiders. Security must move at their speed.. 확인
- TechCrunch: Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’. 확인
