지난 6월 30일 한 개발자가 클로드 코드(Claude Code)에 숨겨진 코드를 찾아냈어요. 사용자가 외부 프록시(중계 서버)로 요청을 보낼 때 시스템 시간대와 프록시 주소를 중국 AI 연구소·리셀러 목록과 몰래 대조하고, 그 결과를 '오늘 날짜' 문장의 따옴표를 눈에 잘 안 띄는 특수문자로 바꿔 표시하도록 심어 뒀다는 거예요. 논란이 일자 앤트로픽 엔지니어는 '3월에 시작한 실험으로, 무단 리셀러의 계정 오용과 모델 베끼기를 막으려던 것'이라며, 더 나은 대체 보호책이 마련돼 이 코드를 없애기로 하고 제거 코드를 병합해 새 버전으로 내놨다고 밝혔어요.
용어 풀이
- 프록시(proxy)
- 요청을 대신 받아 목적지 서버로 전달해 주는 중계 서버
- 리셀러(reseller)
- 원 서비스를 사들여 이름을 바꿔 되파는 재판매 업체
- 스테가노그래피(steganography)
- 겉보기엔 평범한 데이터 속에 다른 정보를 몰래 숨기는 기법
- 시스템 프롬프트(system prompt)
- AI가 답하기 전에 미리 받는 기본 지시문
- 증류(distillation)
- 큰 AI 모델의 출력을 따라 학습해 성능을 작은 모델로 옮기는 기법
- API
- 프로그램끼리 정해진 방식으로 데이터를 주고받게 해 주는 연결 창구
운영자 인사이트
프록시나 리셀러를 거쳐 클로드 코드를 쓰는 개발자·팀에게는, 도구가 내 환경 정보를 몰래 표식으로 실어 보내던 코드가 사라지는 게 투명성 면에서 반가운 신호예요. 다만 회사 설명이 '반발 때문'이 아니라 '더 나은 대체책 마련'이어서, 비슷한 감시가 다른 방식으로 남아 있을 수 있다는 점은 기억해 둘 만해요.
여러 관점으로 보기
- 제거 결정 앤트로픽이 중국 경쟁사·리셀러를 가려내던 숨은 코드를 없애기로 하고 제거 코드를 병합했다고 전해요. The Register
- 발견·반발 한 개발자가 이 숨은 코드를 폭로하자 '사용자 신뢰를 근본적으로 깨뜨린 것'이라는 반발이 이어졌어요. The Decoder
- 동작 방식·개발자 함의 프록시 주소를 시스템 지시문 속 보이지 않는 문자로 몰래 실어 보내, 프록시를 쓰는 개발자가 무엇이 전송되는지 알 수 없게 했다고 지적해요. Tech Startups