앤트로픽이 8월 26일, 사내 사용 분석 도구 Clio(이름을 'Anthropic Insights'로 바꿨어요)를 스탠퍼드·옥스퍼드 연구실과 비영리 평가 기관 METR 세 팀에 열어 각 팀이 4~5월 한 구간의 클로드·클로드 코드 대화를 25만 건씩 분석했다고 밝혔어요. 연구자는 대화 원문도 사용자·조직 식별자도 못 보고 질문마다 묶인 집계 군집만 받았고, 계산은 전부 앤트로픽 서버에서 돌았으며 군집 이름·설명은 직원이 하나씩 검토한 뒤 나갔고 외부 감사가 재식별을 시도했다 실패했대요. 표본은 무료·프로·맥스뿐이라 팀·엔터프라이즈·API 데이터는 통째로 빠졌고, 클로드 코드 대화는 '모델 개선에 내 데이터를 쓰게 한다'에 동의한 사용자에서만 뽑았다고 데이터셋 설명에 적혀 있어요 — 클로드 대화 쪽엔 같은 조건이 안 적혀 있어요.
용어 풀이
- API
- 프로그램끼리 데이터를 주고받는 연결 통로. 앤트로픽에선 개발자·기업이 모델을 직접 붙여 쓰는 유료 경로
- METR
- AI 모델의 능력과 위험을 재는 미국 비영리 평가 기관
- Clio
- 앤트로픽이 클로드 대화를 개인정보 없이 묶어 사용 패턴을 보는 사내 분석 도구. 2024년 12월 공개, 지금 이름은 Anthropic Insights
운영자 인사이트
이번 표본에서 팀·엔터프라이즈·API가 통째로 빠졌으니 회사 계정으로 도는 작업은 이번 공개 밖이에요. 개인 무료·프로·맥스 계정으로 클로드 코드를 쓴다면 '모델 개선에 내 데이터 사용' 설정이 표본에 들어가는 문턱이었으니 거기부터 확인하세요. 다만 클로드 대화(웹·앱)엔 같은 동의 조건이 적혀 있지 않고, 집계 분석 자체를 끄는 설정은 공개 문서에 없어요.
여러 관점으로 보기
- 실제로 밖으로 나간 것 공개된 건 대화가 아니라 군집 표예요 — 한 줄이 군집 하나고 대화 수·조직 수·비율만 담겨 있는데, 클러스터 이름은 클로드가 지은 해석이라 대화의 3%가량은 배정된 군집과 잘 안 맞았대요. Hugging Face
- 앤트로픽이 이미 적어 둔 분석 정책 3월에 갱신된 프라이버시 문서에 '집계된 개인정보 보호 통찰을 외부나 대중에 공유할 수 있다'가 이미 적혀 있었고, 안전용 Clio는 결과를 개별 계정으로 되짚을 수 있다고도 적혀 있어요. Anthropic Privacy Center