조지메이슨대 경제학자 타일러 코웬이 8월 23일 블로그에 '클로드 헌법을 다시 쓰는 일에 조언하는 이틀짜리 자리에 참여했다'고 적었어요. 그런데 글에 담긴 건 앤트로픽이 무엇을 어떻게 고치는지가 아니라 본인이 강조했다는 제안 다섯 가지로, 헌법을 판례법처럼 쌓아 갈 것, 서로 다른 프롬프트를 받은 여러 AI가 클로드의 헌법 준수 여부를 평가하게 할 것, 그 위에 독립 사법부 같은 사람 심판단을 둘 것 등이에요. 앤트로픽은 1월 22일 새 헌법을 내면서 '살아 있는 문서'라며 법·철학·신학 등 외부 전문가 의견을 앞으로도 받겠다고 이미 적어 뒀고, 이번 자리에 대한 앤트로픽 쪽 공지는 확인되지 않아요.
용어 풀이
- 클로드 헌법
- 앤트로픽이 클로드의 가치·행동 방향을 적어 학습에 직접 쓰는 문서
- 판례법
- 개별 판결이 쌓여 다음 판단의 기준이 되는 법 체계
운영자 인사이트
클로드가 무엇을 왜 거절하는지 따질 때 근거로 삼을 원본은 지금도 1월 22일 자 헌법 문서예요. 다시 쓰는 중이라는 말은 참석자 한 사람의 글에만 있고 앤트로픽 공지는 없으니, 지금 프롬프트나 안전 정책을 뜯어고칠 근거로 쓰지 말고 개정이 공지되면 돌릴 회귀 테스트 목록만 미리 챙겨 두세요.
여러 관점으로 보기