오픈 웨이트 지지 서한에 주요 연구소가 줄줄이 서명하고 앤트로픽만 빠진 뒤, 다리오 아모데이가 7월 27일 공식 입장문을 내고 '앤트로픽은 오픈 웨이트 모델 금지를 주장한 적이 없다', '위험한 능력이 없는 오픈 웨이트 모델은 공공재'라고 밝혔어요. 금지 대신 ① 중국에 고성능 칩·칩 제조 장비를 팔지 않기 ② 산업 규모의 증류(distillation) 단속 ③ 충분히 강력한 모델은 공개·비공개를 가리지 않고 출시 전 의무 안전성 검사, 이 세 가지를 제안했고 스타트업·학계의 덜 강력한 모델은 면제한다고 했어요. 해커뉴스에서는 1,148포인트·댓글 1,686개가 달렸는데, '미세조정으로 안전장치를 떼어낼 수 있으니 충분히 강력한 오픈 웨이트 모델은 애초에 검사를 통과할 수 없다, 그러면 의무 검사는 사실상 금지'라는 지적이 가장 크게 반복됐어요.
용어 풀이
- 오픈 웨이트
- 모델 가중치 파일을 공개해 누구나 내려받아 직접 돌릴 수 있게 한 모델
- 증류(distillation)
- 큰 모델의 출력을 대량으로 받아 작은 모델을 학습시켜 성능을 옮겨 담는 기법
- 미세조정(fine-tuning)
- 공개된 모델을 추가 학습시켜 용도에 맞게 바꾸는 것. 안전장치도 이 과정에서 제거될 수 있다
운영자 인사이트
실무에선 '어느 쪽이 갑자기 끊기느냐'가 핵심이에요. 앤트로픽 제안대로 가면 규제 기준이 라이선스가 아니라 모델 능력에 걸려서, 최상위 성능 오픈 모델을 사내에 올려 쓰는 구성도 출시·배포 중단 리스크를 함께 안게 돼요. 반대로 외부 API 한 곳에 기대는 구성은 6월 Fable 5·Mythos 5 사례처럼 정부 명령 한 번에 전면 중단될 수 있고요. 어느 쪽을 고르든 모델 교체 경로를 미리 만들어 두는 게 지금 할 수 있는 준비예요.
여러 관점으로 보기
- 커뮤니티 반론 미세조정으로 안전장치를 떼어낼 수 있으니 강력한 오픈 웨이트 모델은 검사를 통과할 수 없고, 그래서 의무 검사는 이름만 다른 금지라는 지적이 가장 많이 반복됐어요. Hacker News
- CEO 해명 아모데이는 오픈 소스 자체가 아니라 권위주의 정부가 '영구적 군사 우위'를 갖는 상황을 두려워한다고 선을 그었어요. TechCrunch
- 모순 지적 6월 미국 정부가 외국인 접근 제한을 명령하자 앤트로픽은 두 모델을 전 세계에서 껐고, 그때는 '그 능력은 다른 모델에도 널려 있다'며 규제가 헛돈다고 반박했는데 지금 논리와 맞지 않는다는 거예요. The Next Web
- 개인 반박 글 '위험한 능력이 없을 때'라는 조건은 앤트로픽 제품에 한 번도 해당된 적이 없으니, 조건부 지지는 결국 공개하지 않겠다는 뜻이라고 반박해요. Nathan Langley 블로그