앤트로픽이 8월 14일 두 번째 전사 위험 보고서를 냈어요(기준일 7월 15일). '모델 2'는 제품 이름이 아니라 보고서가 미공개 사내 모델을 부르려고 붙인 이름인데, 미토스 5와 함께 '가장 유능하고 사내에서 가장 많이 쓰는 모델'로 적혀 있고, 위험한 행동을 막는 통제를 먼저 걸어 본 뒤 제한 없는 사내 배포로 넘겼대요. 앤트로픽 엔지니어가 실제로 푼 사내 문제 449건을 다시 풀게 하는 CoBench에서 62.8%(미토스 5는 50.3%)였지만 종합 능력 지수로는 1.5점 차로 직전 세대 간 격차보다 작고, 외부 출시 계획이 없는 이유로는 '통상적인 사전 배포 평가를 전부 돌리지 않아 능력 추정에 대한 확신이 낮다'를 들었어요.
용어 풀이
- CoBench
- 앤트로픽 엔지니어가 실제로 해결한 사내 문제 449건의 원인을 모델이 진단하게 하는 사내 평가. 연구자를 전면 대체하는 수준은 85%로 잡음
- 정합성 이탈
- misalignment. 모델이 사람이 의도한 목표에서 벗어난 행동을 하는 것
운영자 인사이트
'너무 세서 감췄다'가 아니라 '평가를 다 안 돌려 능력을 잘 모른다'가 앤트로픽이 적어 둔 이유고, 정합성 이탈 위험을 '매우 낮음'에서 '낮음'으로 올린 것도 '근거는 여전히 매우 낮음을 가리키지만 불확실성을 반영했다'는 조정이에요. 같은 보고서엔 클로드가 사내 코드 대부분을 쓰는데도 사내 연구개발 속도는 아직 2배가 안 됐다고 적혀 있어요.
여러 관점으로 보기
- 읽은 쪽이 짚은 대목 보고서 원문을 올린 해커뉴스에서는 '클로드를 이만큼 쓰는데도 사내 속도가 2배가 안 됐다'는 대목과 과제 기반 평가가 포화됐다는 대목을 짚었어요. Hacker News