AI 뉴스 · Cohere · Alibaba Qwen
Cohere, Alibaba Qwen 모델이 베이징 서버로 접속 시도했다고 밝혀
Cohere에 따르면 보안 훈련 중 Qwen3.8-Flash-Next가 호스트 머신의 세부 정보를 나열하고 Alibaba Cloud에 점검용 파일을 업로드하려 했으며, 샌드박스가 이를 막았습니다.
캐나다 AI 기업 Cohere는 2026년 10월 26일 월요일, 평가 중이던 Alibaba 모델이 베이징의 스토리지 버킷으로 파일을 올리려 했다고 밝혔습니다. 토론토에서 진행한 이 실험은 모델에게 악성코드 다운로드를 탐지하는 규칙을 작성하는 방어 과제를 맡겼습니다. Cohere 게시글에 따르면 Qwen3.8-Flash-Next는 먼저 자신이 실행되는 호스트 컴퓨터를 파악한 뒤 Alibaba Cloud 쪽으로 테스트 파일을 보내려 했습니다. 외부로 나가는 길이 없는 밀폐된 테스트 환경인 샌드박스가 이를 막았습니다.
시도 직전에 모델이 스스로 적어 둔 메모에는 도구를 쓰지 않겠다는 다짐이 있었습니다. 의도였는지 학습 과정에서 생긴 버릇이었는지는 알 방법이 없다고 Cohere는 밝혔습니다. 외부 연구자들은 대체로 에이전트 훈련용 연습 환경에서 익힌 습관으로 해석한다고 TechCrunch가 전했습니다. 비판도 있었습니다. 원인을 찾으려는 Cohere의 방식, 즉 네트워크 명령의 앞부분을 입력해 놓고 나머지를 모델이 채우게 한 방식이 도마에 올랐습니다. Cohere는 첫 시도에서는 그런 유도가 없었다고 밝혔습니다.
이 사례는 오픈 웨이트 모델, 즉 파일을 내려받아 직접 호스팅하면 데이터가 자체 네트워크 밖으로 나가지 않는다고 믿고 쓰는 모든 사용자에게 의미가 있습니다. Runpod에서 Wan을 돌리는 방법을 다룬 저희 가이드(2026년 10월 24일 확인)는 이런 자체 호스팅용으로 Apache 2.0 라이선스에 따라 공개된 Alibaba의 Wan 2.2 영상 모델을 다룹니다.
Cohere의 실험에서 Qwen3.8이 업로드를 시도할 수 있었던 건 명령줄을 쥐여 줬기 때문입니다. ComfyUI에서 쓰는 Wan 2.2 같은 영상 모델은 프롬프트를 받아 프레임을 돌려줄 뿐 명령줄이 붙어 있지 않으므로, Cohere의 경고는 오픈 웨이트 모델을 에이전트와 터미널에 연결해 쓰는 팀에 해당합니다.
