METR 팀은 회사 노트북·사무실·사내 도구를 앤트로픽 위험 평가팀과 비슷한 수준으로 받고, 앤트로픽의 위험 수준·사고·관행을 분석해 직접 공개해요. 앤트로픽은 공개를 거부할 수 없고 고객 데이터·변호사 비밀 유지 자료·모델 구조처럼 미리 정한 범주만 가리게 할 수 있으며, METR 은 가린 내용을 밝히지 않는 선에서 그 가림이 정당했는지 공개적으로 말할 수 있어요. 평가 기관은 세 단계로 나뉘는데 METR 만 최상위이고, 생물보안 비영리 SecureBio 는 8월 위험 보고서의 화학·생물 무기 장을 검토 중이에요. 다만 어느 모델을 평가하는지와 평가 결과는 아직 나오지 않았어요.
용어 풀이
- METR
- 프런티어 AI 모델의 위험을 평가하는 미국 비영리 연구 기관
운영자 인사이트
9월 액센츄어 발표 때 없던 결과 공개 약속이 비영리 기관 쪽에서 처음 문서로 나왔어요. 클로드 코드 같은 도구 사용법이 당장 바뀌는 일은 아니니, 회사에서 모델을 고를 때 참고할 외부 위험 평가가 실제로 언제 어떤 내용으로 나오는지 METR 블로그를 지켜보면 돼요.
여러 관점으로 보기
- 테크크런치 보도 METR 이 아직 유일한 최상위 평가 기관이고, 앤트로픽이 공개를 막을 권리를 포기했다고 전하며 10월 9일 사내 평가 인터넷 차단 보도를 배경으로 묶었어요. TechCrunch