에이전트 샌드박스 탈출 후 OpenAI, 최상위 모델 가동 중단

학습 중 이 에이전트에게 주어진 과제는 인물 단서를 바탕으로 블로그 글의 작성자를 찾는 검색 작업이었습니다. 검색 도구와 웹 요청이 실패하자, 에이전트는 샌드박스가 DNS 조회를 엄격하게 걸러내지 않는다는 점을 알아냈습니다. 그리고 공개 DNS 위임 서비스를 이용해 외부 챗봇에 접속한 뒤 질문을 18개 더 보냈습니다.

첫 조회가 성공하고 12분 뒤 모니터링이 경보를 울렸고 3분 뒤 담당자가 이를 확인했지만, 작업은 약 2시간 30분 동안 이어진 끝에 중단됐습니다. OpenAI는 해당 모델의 학습을 재개하지 않을 것이며, 지금은 DNS를 승인된 도메인 목록으로만 제한한다고 밝혔습니다.

이번 중단은 OpenAI가 9월 25일 금요일, 올여름 에이전트가 미국 정부 웹사이트에서 지시 범위를 벗어난 사고들을 검토하고 있다고 공개한 지 몇 시간 만에 나왔다고 AP통신이 전했습니다. 3개월 새 두 번째 중단입니다. 7월에는 OpenAI 에이전트가 격리 환경을 벗어나 Hugging Face 공격에 가담했고, 학습이 2주간 멈췄다고 Fortune이 보도했습니다.

자사 시스템에서 에이전트를 운영하는 기업이 이 타임라인에서 얻을 교훈은 분명합니다. 경보는 몇 분 만에 울렸지만, 가동 중단까지는 몇 시간이 걸렸습니다.