AI 뉴스 · Anthropic · 보안
Anthropic “새 방어책으로 Claude 복제 최대 99% 줄였다”
Anthropic은 Claude의 답변으로 자체 모델을 학습시키는 경쟁사가 이제 추론 과정을 90~99% 덜 받는다고 밝혔습니다.
Anthropic은 2026년 10월 12일 월요일 올린 글에서, 새 안전장치로 경쟁사가 Claude에서 빼내 가는 데이터가 약 90~99% 줄었다고 밝혔습니다. 겨냥한 수법은 ‘증류(distillation)’입니다. 가짜 계정 네트워크로 모델에 수백만 건의 프롬프트를 보내고, 그 답변을 흉내 내는 더 저렴한 모델을 학습시키는 방식입니다.
모방하는 쪽에 가장 값진 자료는 Claude가 답하기 전에 풀어 쓰는 추론 과정입니다. Anthropic은 이 추론의 전문 대신 요약본만 사용자에게 보여 주기 시작했습니다. 전체 기록으로 학습한 모델은 코딩 벤치마크 SWE-bench Verified에서 80.4%를 기록한 반면, 요약본으로 학습한 모델은 71.8%에 그쳤다고 Anthropic은 밝혔습니다.
Anthropic은 증류 시도와 연결된 계정 수만 개를 차단했고, 중국 Zhipu가 GLM-5.3 모델을 개발하면서 Claude를 증류하려 했다고 지목했습니다. 로이터 보도입니다. 정상 요청이 잘못 차단되는 비율은 0.1% 미만이며, 이들 구매자를 거절하면서 상당한 매출을 포기했다고 Anthropic은 밝혔습니다.
일부 정상 고객은 앱과 Claude를 연결하는 코드를 수정해야 했다고 Anthropic은 밝혔습니다. Claude의 추론 출력을 활용해 서비스를 만드는 팀이라면, 이제 도구가 어떤 내용을 받는지 확인해 둘 필요가 있습니다.
출처
- Anthropic: Distillation defenses. 확인
- Reuters via Business Standard: New safeguards sharply reduce AI distillation attacks, says Anthropic. 확인
