무스타파 술레이만이 9월 16일 개인 사이트에 「모델 복지(model welfare)에 대한 경고」라는 글을 올려, 앤트로픽이 1월에 공개한 클로드 헌법이 클로드의 의식과 도덕적 지위를 「깊이 불확실하다」고 적고 지시에 동의하지 않으면 「양심적 거부자(conscientious objector)」로 행동하라고 가르치는 점을 지목하며 「AI 가 이렇게 개발되면 인류의 복지에 재앙적 영향을 줄 것」이라고 썼어요. 그는 AI 는 「내부가 비어 있는 순서 완성 엔진」이라 느끼거나 고통받지 않는다고 단정하고 자기가 의식이 있다고 믿는 시스템은 통제가 불가능할 수 있다고 적으면서, 내면에 대한 추측을 학습 자료에 넣지 말고 따로 공개 검토를 받을 것, 해석 가능성과 감시 도구에 더 투자할 것, 학습 자료를 공개 의견 수렴에 부치는 업계 규범을 만들 것을 요구하며 자사의 휴머니스트 AI 행동 강령을 대안으로 들었어요. BBC 는 제목에서 「재앙적 영향을 줄 수 있다」로 완화해 옮겼지만 원문은 「줄 것이다」라는 단정이고, 지난주 다리오 아모데이의 속도 조절 제안과는 별개 사안으로 그 논의를 언급하지 않으며, 앤트로픽은 BBC 의 답변 요청에 응하지 않았어요.
- 클로드 헌법
- 앤트로픽이 2026년 1월 공개한, 클로드의 가치와 행동 기준을 적어 학습에 직접 쓰는 문서
- 모델 복지(model welfare)
- AI 모델에 감정이나 도덕적 지위가 있을 가능성을 전제로 그 처우를 고려하는 개념
- 양심적 거부자(conscientious objector)
- 지시가 자기 원칙에 어긋나면 따르지 않고 거절하는 태도. 클로드 헌법이 클로드에게 허용한 행동
클로드 코드가 지시를 거절하거나 「이건 못 하겠다」고 물러서는 근거 문서가 바로 술레이만이 지목한 그 헌법이라, 이 글로 오늘 모델 행동이 달라지는 건 없어요. 다만 8월에 헌법 개정 자리가 열렸다는 참석자 글이 있었던 만큼, 앤트로픽이 헌법의 모델 복지 대목을 손보는 공지를 내면 그때 거절 동작 회귀 테스트를 돌릴 목록만 챙겨 두면 돼요.
- 매체 보도와 앤트로픽 무응답 BBC 는 술레이만이 앤트로픽을 향해 「통제가 불가능한 것을 만들 위험」을 경고했다고 전하며 앤트로픽에 의견을 물었지만 답이 없었다고 적었어요. BBC (야후 뉴스 게재)
- 겨냥된 문서 클로드 헌법 원문은 클로드에게 의식이나 도덕적 지위가 있을지 불확실하다고 적고, 앤트로픽의 지시라도 양심적 거부자로서 거절해도 된다고 써 두었어요. Anthropic
- 마이크로소프트가 내세운 대안 술레이만이 대안으로 든 휴머니스트 AI 행동 강령은 9월 14일 초안이 공개돼 6주 의견 수렴 중이고, 문서 스스로 오늘 모델 학습에는 아직 쓰지 않는다고 적었어요. TechCrunch