오픈AI가 9월 30일 낸 발표를 보면, 공격자는 한 대화에서 받은 암호화된 추론 데이터를 복사한 뒤 다른 대화에서 모델에게 그것을 풀어 평문으로 옮겨 적게 했고, 오픈AI는 암호를 깨거나 데이터베이스나 저장된 대화에 들어간 것은 아니라고 설명했어요. 활동은 7월 1일 처음 잡혔고 7월 24~25일에는 4천여 명의 이용자에게서 하루 1만 6천 건의 요청이 나왔으며, 같은 패턴을 보인 계정은 1만 5천 개가 넘었고 7월 28일 차단을 마쳤다고 해요. 조치로는 계정 정지, 가입·인프라 통제 강화, 대화를 건너 추론을 풀어 주던 버그 수정, 프런티어 모델 포럼(Frontier Model Forum) 공유를 들었는데, 사이버스쿱은 문샷과 연결한 기술적 근거가 글에 없고 오픈AI도 모든 활동이 한 무리인지는 확신하지 못했으며 문샷은 답하지 않았다고 전했어요.
용어 풀이
- 증류(distillation)
- 다른 회사 모델의 응답을 대량으로 받아 자기 모델 학습에 써서 성능을 베끼는 방식
- encrypted_content
- 오픈AI API 가 모델의 숨겨진 추론을 암호화해 돌려주는 필드. 다음 요청에 그대로 넘겨 추론을 이어 쓰게 한다
- store=false
- 응답을 오픈AI 서버에 저장하지 않게 하는 API 옵션. 대화 기록은 호출하는 쪽이 직접 관리한다
운영자 인사이트
발표에서 API 이용자 대상 약관 변경이나 별도 공지는 확인되지 않았어요. 다만 오픈AI 추론 가이드는 encrypted_content 로 돌려받은 추론을 같은 모델 계열 안에서만 다시 쓸 수 있고, 계열을 바꾸면 API 가 그 추론을 알아서 빼 버린다고 적고 있어요. store=false 로 대화 기록을 직접 관리하면서 여러 모델을 섞어 쓰는 에이전트라면 추론이 실제로 이어지는지 점검해 두세요. 이 제한이 이번 사건 때문에 생긴 것인지는 확인되지 않았어요.
여러 관점으로 보기
- 보안 매체 보도 7월 1일 탐지부터 7월 28일 차단까지의 경과와 계정 정지·가입 통제·버그 수정 같은 조치를 정리하고, 문샷과 연결한 기술적 근거가 발표에 없다고 짚었어요. CyberScoop
- API 개발자 문서 store=false 나 데이터 무보존 환경에서는 추론이 encrypted_content 로 오고, 같은 모델 계열 안에서만 다시 쓸 수 있으며 계열을 바꾸면 빠진다고 적혀 있어요. OpenAI Developers