앤트로픽이 9월 10일에 낸 네 번째 위협 정보 보고서는 2025년 12월부터 2026년 8월까지 차단한 악용 사례를 사이버 공격·여론 조작·감시·재래식 무기·생물학·사기·증류 일곱 갈래로 묶었어요. 재래식 무기는 이번에 처음 들어간 갈래로 중국 3건·러시아 2건·예멘 1건인데, 예멘 조직은 사람 소프트웨어 엔지니어 자리에 클로드 코드를 넣어 비행체를 조종하는 GNC 소프트웨어를 만들었고 클로드 인스턴스 여러 개에 코드 작성·조사·코드 리뷰 역할을 나눠 맡겼어요. 이들은 목적을 감추고 작업을 여러 세션으로 쪼개 안전장치를 피했고, 유도 로켓 실사격이 실패하자 몇 시간 만에 클로드로 돌아와 원인을 따졌다고 보고서에 적혀 있어요.
용어 풀이
- GNC
- Guidance, Navigation and Control. 날아가는 비행체의 위치를 추정하고 방향과 자세를 잡아 주는 제어 소프트웨어
- 증류
- distillation. 다른 회사 모델의 응답을 대량으로 받아 내 모델을 학습시켜 성능을 베끼는 방식
운영자 인사이트
요청 한 건, 세션 한 개 안에서만 위험을 보는 안전장치는 같은 일을 여러 세션으로 쪼개면 그냥 지나가요. 사내 에이전트 사용 정책과 감사 로그를 짤 때 세션 단위로만 남기면 같은 사각이 생기니, 계정·기간을 가로질러 쌓인 요청 패턴을 함께 보는 쪽으로 설계해 두는 게 좋아요.
여러 관점으로 보기
- 감시 쪽 사례 말리 국가 안보 당국에서 일하던 컨설턴트 한 명이 클로드로 전국 이동통신사 통신을 가로채는 플랫폼을 만들었고, 중국의 한 종교 담당 정보 수집 조직은 분석관 여러 팀이 하던 일을 사무실 한 곳으로 줄이고 매달 조사 수천 건을 내고 있대요. Anthropic
- 생물학 쪽 사례 생물학 갈래는 사례 5건인데 모두 현직 과학자라 앤트로픽이 이름도 나라도 밝히지 않았고, 한 건은 오푸스 5가 면역 회피 연구 연구비 신청서를 한 시간쯤 만에 통째로 써 준 경우예요. CBS News
- 커뮤니티 반응 해커뉴스에서는 이중용도 연구까지 막아 버리면 정상적인 의학 연구가 피해를 본다는 비판과, 상장을 앞두고 위협을 부풀린다는 의심이 같이 올라왔어요. Hacker News
- 보도 요약 재래식 무기용 소프트웨어를 쓰게 한 건 앤트로픽이 이번에 처음 분류한 악용 유형이라고 정리했어요. The Next Web