벤처비트가 9월 30일 개발자 넷을 취재해 실은 기사에서, MIT 항공우주 석사과정생은 시뮬레이션 위성 작업이 군사용으로 오인돼 막히고 클로드가 특히 공격적이라고 했고, 로봇 개발자는 로봇 팔 조작 화면이나 다른 기계에 SSH 로 접속하는 기능 같은 평범한 작업에서도 거절이 잦았다고 했어요. DAIR.AI 공동창업자 엘비스 사라비아는 거절 때문에 앤트로픽 구독을 해지하고 GPT-6 애스트라로 옮겼고, 엑솔라의 로한 발콘데카르는 "사이버라는 말만 나오면 거절한다"며 막힌 보안 작업은 키미 같은 공개 모델로 돌린다고 했는데, 모두 개인 경험담이고 거절 빈도를 잰 수치는 없어요. 오픈AI는 GPT-6 애스트라·GPT-6.1 솔이 GPT-5 계열보다 무해한 요청을 덜 거절하지만 추가 안전 점검이 방어 보안을 포함한 정상 작업을 "늦추거나 멈출 수 있다"고 인정하고 신뢰 접근 프로그램 데이브레이크를 안내했으며, 앤트로픽은 마감까지 답하지 않았어요.
용어 풀이
- SSH
- 다른 컴퓨터에 암호화된 연결로 원격 접속하는 방식
- CVP
- 앤트로픽 사이버 검증 프로그램. 심사를 통과한 보안 실무자에게 사이버 관련 안전장치를 풀어 주는 제도
운영자 인사이트
확인된 것은 오픈AI의 인정과 개인 경험담뿐이라 어느 모델이 얼마나 더 막는지는 아직 알 수 없어요. 보안·로봇·항공우주처럼 오인되기 쉬운 영역을 에이전트에 맡긴다면 거절로 작업이 멈춘 횟수를 로그로 남기고, 막혔을 때 넘길 대체 모델과 데이브레이크·앤트로픽 사이버 검증 프로그램(CVP) 같은 신뢰 접근 신청을 미리 챙겨 두세요. 공개 모델로 돌리는 우회는 코드가 어디로 나가는지 사내 기준부터 확인해야 해요.
여러 관점으로 보기
- 오픈AI 시스템 카드의 공식 입장 9월 29일 공개된 GPT-6.1 솔 시스템 카드는 GPT-6 계열이 무해한 요청을 덜 거절한다고 적으면서도, 사이버 쪽은 데이브레이크로 단계적으로 열고 더 정밀한 안전장치로 승인된 작업을 넓혀 가겠다고 했어요. OpenAI