Anthropic이 6월 10일 미 상원 은행위원회에 보낸 서한에서, 알리바바와 그 AI 연구소(Qwen)가 클로드를 상대로 '지금까지 알려진 것 중 최대 규모의 증류(distillation) 공격'을 벌였다고 주장했어요. 약 2만5천 개의 가짜 계정으로 4월 22일부터 6월 5일까지 2880만 회 질의를 보내, 코딩·에이전트 추론·장기 과제처럼 가장 값나가는 능력을 빼내려 했다는 거예요. Anthropic은 이를 국가안보 문제로 규정하고 의회에 수출 통제 강화와 대규모 모델 추출 행위 처벌 신설 등을 요구했어요. 다만 이는 Anthropic의 일방적 주장이고, 알리바바는 즉답을 내놓지 않았으며 혐의는 아직 독립적으로 검증되지 않았어요. 소송이 아니라 의원들에게 보낸 서한이라는 점도 함께 봐 둘 만해요.
용어 풀이
- distillation(증류)
- 큰(강한) AI 모델에 대량으로 질문해 그 출력으로 더 작은 모델을 학습시키는 기법. 여기선 경쟁 모델의 능력을 몰래 베껴 가는 '모델 추출'을 가리켜요.
- agentic reasoning(에이전트 추론)
- 모델이 스스로 도구를 쓰고 여러 단계를 계획·실행해 과제를 끝까지 처리하는 능력.
- rate limit(레이트리밋)
- 단위 시간당 API 호출 횟수를 제한하는 장치. 대량 자동 질의나 남용을 막는 데 써요.
운영자 인사이트
표적이 '코딩·에이전트 추론·장기 과제'라는 점이 핵심이에요. 클로드의 코딩 능력 자체가 경쟁 모델 학습의 원료로 쓰였다는 주장이라, API를 외부에 여는 쪽이라면 대량 자동 질의·이상 계정 패턴을 잡아내는 약관·레이트리밋·악용 모니터링이 곧 핵심 자산 방어선이 돼요. 또 미·중 수출 통제가 칩을 넘어 '모델 출력 접근'으로 번지면 어떤 외국 모델을 어디까지 쓸 수 있는지가 규제 변수로 들어올 수 있어, 조달·아키텍처 결정에 미리 반영해 둘 만해요.
여러 관점으로 보기