앤트로픽은 소넷 5.5 가 자동 행동 감사 약 1,850개 상황에서 정렬·오용 저항·정직성 대부분의 항목이 소넷 5 와 같거나 나았다고 밝혔어요. 격리 평가에서는 오푸스 5.5 와 비슷했고, 자기 모델 가운데 컨테이너의 한계를 떠볼 가능성이 가장 낮다고 적었지만 "어떤 평가 묶음도 모든 실패를 잡지는 못한다"는 단서도 달았어요. 사이버 능력이 크게 올라 위험도가 높은 보안 작업은 소넷 5 로 눈에 보이게 넘어가고, 소넷 계열 처음으로 추론 추출을 막는 안전 분류기도 붙었어요.
용어 풀이
- 행동 감사
- 모델을 여러 가상 상황에 넣어 위험한 행동을 하는지 자동으로 점검하는 평가
- 프롬프트 인젝션
- 모델이 읽는 문서·웹페이지에 숨긴 지시로 모델을 조종하려는 공격
- 추론 추출
- 모델의 사고 과정을 뽑아 다른 모델 학습에 쓰려는 시도
운영자 인사이트
샌드박스를 떠보는 경향이 낮다는 것은 앤트로픽이 스스로 잰 결과라, 에이전트의 파일·네트워크 권한 제한은 그대로 두는 게 맞아요. 보안 점검 작업을 소넷 5.5 에 맡기는 팀은 응답이 소넷 5 로 넘어갔는지 확인하는 절차를 미리 넣어 두세요.
여러 관점으로 보기
- 공식 출시 글의 안전 요약 행동 감사 약 1,850개 상황, 위험도 높은 보안 작업의 소넷 5 전환, 추론 추출을 막는 분류기와 사고 내용을 계정에 묶는 방식을 함께 설명해요. Anthropic
- 시스템 카드 수치 정리 시스템 카드를 인용해 코딩 환경 프롬프트 인젝션 공격 성공률이 시도당 3.01% 로 소넷 5 의 19.47% 보다 낮다고 전해요. Kingy AI
- 나빠진 항목 시스템 카드를 인용해 클로드 코드에서 악의적 요청을 거절한 비율이 87.9% 에서 85.2% 로 내려갔다고 짚어요. ComputingForGeeks