앤트로픽은 추론을 빼내려는 요청을 잡는 2단계 분류기를 소네트 5.5·오푸스 5·5.5·페이블 5·5.1 에 붙였고 오탐률은 0.1% 미만이며, 이전 추론을 다른 언어로 옮기게 하거나 답 옆 태그 안에 다시 적게 하는 수법도 막았다고 밝혔어요. 이런 시도를 되풀이하는 계정은 사용 한도가 더 엄격해지고 계속하면 정지되며, 9월 24일부터 시작한 차단 요청 과금과 8월 31일 이후 만든 계정에 걸리는 앞선 맥락 수정 금지(preserved thinking)도 같은 방어의 일부라고 다시 설명했어요. 앤트로픽은 증류 쪽이 거둬 간 데이터가 약 90~99% 줄었고 관련 계정 수만 개를 캠페인 시작 2시간 안에 막는 일이 많았다고 적었지만 이는 회사 자체 집계이고, 해커뉴스 댓글에서는 근거를 내놓지 않았다는 지적과 막힌 요청에 요금을 받는 데 대한 반발이 나왔어요.
용어 풀이
- 증류(distillation)
- 다른 모델의 응답을 대량으로 받아 내 모델을 학습시켜 능력을 베끼는 방식
- 분류기
- 요청이나 응답이 특정 유형에 해당하는지 판정하는 별도 모델
- 오탐률
- 정상 요청을 문제 요청으로 잘못 판정하는 비율
- preserved thinking
- 앞선 추론 블록과 그 앞 맥락을 고치지 못하게 검사하는 API 기능
- thinking 블록
- API 응답에 담겨 오는 모델의 추론 부분. 서명이 붙어 있어 다음 요청에 되돌려 보냄
운영자 인사이트
어느 정도를 '되풀이'로 보는지, 한도가 얼마나 낮아지는지는 글에 없어요. 에이전트나 로그 수집 단계에 이전 추론을 그대로 다시 적거나 번역하게 하는 지시가 있다면 지금 빼 두세요. 또 문서상 소네트 5.5·하이쿠 5.5 의 thinking 블록은 만든 계정이나 연결된 계정에서만 쓰이고 다른 계정에서는 오류 없이 빠지니, 여러 조직 키로 대화를 이어 붙이는 구조라면 응답 품질이 바뀌지 않는지 확인하세요.
여러 관점으로 보기
- 계정 묶기 문서 소네트 5.5·하이쿠 5.5 가 만든 thinking 블록은 만든 계정이나 연결된 계정에서만 쓰이고, 다른 계정이 보내면 API 가 오류 없이 그 블록을 빼고 처리한다고 적혀 있어요. Anthropic
- 해커뉴스 반응 추론이 가려져 잘못된 추론을 중간에 끊을 수 없다는 개발자 불만, 막힌 요청에 요금을 받는 데 대한 반발, 증류를 '공격'이자 안보 문제로 부르는 데 근거가 없다는 비판이 이어졌고 앤트로픽 직원 댓글은 없었어요. Hacker News