오픈AI가 8월 7일, 아직 내놓지 않은 모델 애스트라(Astra)의 개발과 출시를 스스로 늦춘다고 밝혔어요. 사전 평가에서 자율 코딩·사이버보안 성능이 크게 올라, 자체 기준(Preparedness Framework)의 최고 등급인 '치명적(Critical)' 사이버 능력 — 사람이 손대지 않아도 잘 막아 둔 실제 시스템에 먹히는 제로데이 공격을 스스로 만들어 내는 수준 — 을 배제할 수 없다고 봤고, 오픈AI가 이 등급을 붙인 모델은 애스트라가 처음이에요. 출시를 접은 게 아니라 새 통제(격리된 시험 환경, 네트워크·도구 접근 제한, 가중치 암호화, 모든 에이전트 작업 상시 감시, 사고 사슬(Chain-of-Thought) 감시로 고위험 행동 중단)를 못 갖춘 내부 작업만 멈춘 것인데, 재개 조건·출시 일정은 안 밝혔고 지난주 알려진 허깅페이스 침입 건과는 관계없다고 못 박았어요.
용어 풀이
- 제로데이
- 아직 알려지지도, 고쳐지지도 않은 보안 구멍을 노리는 공격
- Preparedness Framework
- 오픈AI가 모델의 위험 능력을 등급으로 나누고 등급별 대응 수위를 정해 둔 자체 기준
- 사고 사슬(Chain-of-Thought)
- 모델이 답을 내기 전 속으로 밟는 추론 단계 기록
운영자 인사이트
쓰던 코딩 에이전트가 갑자기 보수적으로 굴 수 있어요. 오픈AI가 새로 건다는 상시 감시·사고 사슬 감시는 애스트라만이 아니라 '모든 에이전트 응용'이 대상이라, 취약점 점검·침투 시험처럼 정당한 보안 작업이 고위험으로 걸려 중간에 끊길 여지가 생겨요. 사내에서 보안 성격 작업을 에이전트에 맡기고 있다면 승인 경로와 대체 수단을 지금 확인해 두는 게 나아요.
여러 관점으로 보기
- 무엇을 멈췄나 출시를 미룬 게 아니라 강화된 안전장치를 못 갖춘 내부 작업만 멈춘 것이고, 애스트라는 허깅페이스 침입에 쓰인 모델이 아니에요. TechCrunch
- 새로 거는 통제 목록 격리 환경·접근 제한·가중치 암호화에 더해, 고위험 행동을 검토하고 끊는 사고 사슬 감시까지 붙인다고 적혀 있어요. The Register