드레스덴 공대 안드레아스 톰(Andreas Thom)이 9월 9일 마스토돈에 세 편으로 이어 쓴 글에서, 오픈AI 가 8월 1일자로 올린 「수학과 이론 컴퓨터과학의 열 가지 진전」에 담긴 '소픽이 아닌 군' 구성이 자기와 가보르 쿤의 방법을 쓴 것이라 놀랐고, 그래서 자기와 동료가 몇 달간 챗GPT 안에서 그 후속 문제를 논의한 기록이 어떻게 됐는지 메일로 물었다고 적었어요. 그는 (1) 그 대화가 학습 데이터에 들어갔는지와 (2) 푸는 과정에서 그 대화에 접근할 수 있었는지를 나눠 물었는데 오픈AI 연구자 마크 셀키(Mark Sellke)의 답은 '그런 일은 없었다' 한 줄이었고, 이후 오픈AI 가 나비에-스토크스 건에서 '특정 사용자 데이터에 접근하지 않았다'면서도 '사용 과정에서 나온 비식별 데이터가 모델 개선에 쓰였을 가능성은 배제할 수 없다'고 밝히자 그 한 줄이 (2)만 답한 것으로 보인다고 적었어요. 톰은 6월 29일에 학습 사용을 껐지만 그 설정은 이후 대화에만 걸리고 사용자가 확인할 방법이 없다고 했고, 오픈AI 는 9월 11일까지 톰의 글에 공개로 답하지 않았어요.
- 코덱스
- 오픈AI의 코딩 에이전트 서비스(Codex)
- 비식별 데이터
- 이름 등 개인을 알아볼 수 있는 정보를 지운 데이터. 내용 자체가 지워지는 것은 아니다
학습에 쓰였는지는 확인되지 않았고, 확인된 건 오픈AI 가 '특정 사용자 데이터 접근'만 부인하고 비식별 데이터 쪽은 열어 뒀다는 점이에요. 학습 사용 끄기는 끈 뒤의 대화에만 걸리니, 미공개 설계나 사내 코드를 에이전트에 넣는 팀이라면 개인 설정 대신 학습 금지가 계약에 적힌 요금제인지부터 확인하고, 켜져 있던 기간의 대화는 이미 나간 것으로 치고 범위를 잡으세요.
- 이 갈래의 발단 뉴욕대 트리스탄 버크마스터는 9월 8일 성명에서 프로젝트 초안을 전부 넣어 둔 코덱스 세션이 학습에 쓰였는지 물었을 때 답을 받지 못했다고 적었고, 자기는 오픈AI 증명을 본 적이 없고 누구도 고발하지 않는다고 밝혔어요. Tristan Buckmaster (NYU Courant)
- 오픈AI 가 공개로 밝힌 문구 오픈AI 는 '이 문제를 풀기 위해 특정 사용자 데이터에 접근한 적은 없다'고 하면서도 '가능성은 낮지만, 그들의 제품 사용에서 나온 비식별 데이터가 우리 모델 개선에 도움이 됐을 가능성은 배제할 수 없다'고 적었어요. ABC News
- 두 번째 사례로 정리한 보도 톰이 문제 삼는 건 나비에-스토크스가 아니라 8월에 나온 '소픽이 아닌 군' 결과이고, 그는 6월 29일에 학습 사용을 껐지만 그 설정이 이전 대화에는 걸리지 않는다는 점을 짚었어요. Notebookcheck
- 개발자 토론 (604점·댓글 601개) '학습 사용 켜기가 기본값이라는 걸 몰랐다'는 반응과 함께, 엄지 표시를 누르거나 옵트아웃 이전에 만든 대화를 이어 가면 설정과 무관하게 넘어간다는 지적이 나왔고, 다른 쪽에서는 '대화했다'는 진술 말고 근거가 없다는 반론도 많았어요. Hacker News