오픈AI가 자사 모델이 심각하거나 파국적인 위험을 낳을 수 있는지 평가하던 준비팀(Preparedness)을 7월 말에 해체했다는 사실이 파이낸셜타임스 보도로 8월 16일 알려졌어요. 생물·사이버 위험을 보던 일은 기존 팀들의 숙련자에게 나눠 붙였고, 팀을 이끌던 딜런 스캔디나로는 스스로를 개선하는 모델의 위험 쪽으로 자리를 옮겼어요. 위험을 재는 기준인 준비 프레임워크와 이를 관장하는 구조는 그대로 남았고 그렉 브록먼도 안전 작업을 모델 개발에 더 촘촘히 엮은 것이라고 했지만, 그 일을 전담하던 독립 조직이 사라진 것이고 오픈AI 공식 뉴스에는 해체를 알리는 발표가 없어요.
용어 풀이
- 준비팀(Preparedness)
- 오픈AI가 2023년 12월에 만든 조직. 자사 모델이 생물·사이버 등에서 큰 피해를 낼 능력에 닿았는지 재고 대응책을 준비하던 팀
- 준비 프레임워크
- 모델이 어느 수준의 위험 능력에 닿으면 배포를 막거나 안전장치를 걸지 정해 둔 오픈AI의 사내 기준 문서
- 시스템 카드
- 모델을 내놓을 때 회사가 함께 공개하는 성능·위험 평가 요약 문서
운영자 인사이트
코덱스에 코드 실행을 맡기는 쪽이라면, 위험을 재는 기준은 남았지만 그걸 개발과 떨어져 전담하던 조직이 사라지고 판단이 모델 만드는 팀 안으로 들어갔다는 뜻이에요. 앞으로 나오는 위험 등급·안전장치 설명은 전담 조직의 검증을 거친 값이 아니니, 시스템 카드와 사이버 접근 등급 공지를 직접 읽고 사내 실행 권한·격리 기준은 우리 쪽에서 따로 잡아 두는 편이 안전해요.
여러 관점으로 보기
- 해체 사실·시점 준비팀은 7월 말에 없어졌고 생물·사이버 위험을 보던 일은 기존 팀들로 쪼개져 갔어요. 최고윤리책임자 클로이 바칼라와 조슈아 아키암도 최근 회사를 떠났어요. The Decoder
- 한 달 앞선 안전 조직 개편 7월 11일에는 안전 시스템 책임자 요하네스 하이데케가 떠나면서 안전 팀들이 모델 개발 조직 밑으로 붙었어요. Engadget
- 책임자 자리는 원래 오래 비어 있었어요 작년 12월까지도 오픈AI는 준비팀 책임자를 연봉 55만 5천 달러에 새로 뽑고 있었어요. TechCrunch