네이처가 8월 13일 외부 연구자 평가를 실었어요 — 논문 공장을 연구하는 노스웨스턴대 리스 리처드슨은 표식을 다른 모델에 한 번 통과시키면 지워지니 마음먹은 사람은 못 막는다고 봤고, 카네기멜런대 니하르 샤는 오탐이 낮은 탐지 도구가 나와야 쓸모가 있다고 단서를 달았어요. 그런데 앤트로픽은 탐지 도구를 내놓겠다고만 했을 뿐 아직 공개하지 않아서, 지금은 앤트로픽 밖에서 그 표식을 읽어 볼 방법이 없어요. 샤가 근거로 든 ICML 2026 사례는 검토자 506명을 잡아냈지만, 그건 모델이 내놓는 글에 넣는 표식이 아니라 논문 PDF에 숨겨 둔 지시문이었고, 학회 스스로 'PDF를 통째로 넣고 결과를 복붙하는 사람만 걸린다'고 적어 뒀어요.
용어 풀이
- ICML
- 기계학습 분야 대표 국제 학회 (International Conference on Machine Learning). 2026년 행사는 7월 서울에서 열렸다
- 어디서 열어도 편집이 같게 보이도록 굳혀 둔 문서 파일 형식
운영자 인사이트
이 평가는 처음부터 끝까지 논문·심사 얘기고 코드 출력은 한 번도 안 나와요. 그래도 리처드슨의 지적은 코드에 그대로 옮겨 붙어요 — 표식이 코드에선 주로 주석에 앉는 걸 생각하면, 빌드에서 주석을 떼는 것만으로 사라지니까요. 읽을 도구가 없는 동안엔 '표식이 없다'가 사람이 썼다는 증거가 못 되니, 사내 규정에 표식 탐지를 판정 근거로 넣는 건 도구가 실제로 나온 뒤로 미루는 게 안전해요.
여러 관점으로 보기