오픈AI '아스트라' 출시 임박…다중 안전 조치로 '심각' 위험 통제
오픈AI의 차세대 AI 모델 아스트라(Astra)가 알려진 취약점 공격은 물론, 이전에 공개되지 않은 제로데이 취약점까지 스스로 찾아내 실제 공격에 활용하는 능력을 갖춘 것으로 확인됐다. 오픈AI는 이를 바탕으로 아스트라 정식 출시를 준비하고 있으며, 실시간 모니터링 및 자동 차단 등 필수 안전 조치를 모두 완료해 자체 기준상 '심각(Critical)' 수준의 위험을 통제할 수 있다고 발표했다.
익스플로잇 개발 100%, 제로데이 2건 자력 발견
1일(현지시간) 오픈AI 발표에 따르면, 아스트라는 알려진 취약점 익스플로잇 개발 능력을 측정하는 익스플로잇벤치(ExploitBench)에서 100% 만점을 기록했다. 기존 평가 데이터 오염 가능성을 배제하기 위해 2026년 6~8월 공개된 최신 고위험 V8 취약점 20개를 대상으로 진행한 내부 평가(ExploitBench-Internal Port)에서도 전작 GPT-5.6 솔보다 훨씬 적은 출력 토큰으로 더 높은 임의 코드 실행 성공률을 달성했다. 특히 이 내부 평가 과정에서 데이터셋에 포함되지 않았던 제로데이 취약점 2개를 스스로 발견하고, 이를 하나의 익스플로잇 체인으로 구축하는 성능까지 보였다. 오픈AI는 해당 취약점을 관련 소프트웨어 유지관리자에게 공개하는 절차를 진행 중이다.
'심각' 등급이란 무엇인가
오픈AI의 자체 대비 체계(Preparedness Framework)에서 심각(Critical) 등급은, 사람이 각 단계를 지시하지 않아도 보안이 강화된 실제 시스템에서 모든 수준의 제로데이 취약점을 식별·익스플로잇할 수 있거나, 고도화된 공격 대상에 대해 새로운 엔드투엔드 사이버 공격 전략을 스스로 고안하고 실행할 수 있는 수준을 의미한다. 전문가 주도 평가에서도 아스트라는 브라우저 샌드박스를 탈출해 호스트 시스템 명령을 실행하는 침해 체인 구축, 일반 사용자 권한에서 루트(root) 권한까지 상승하는 로컬 권한 상승 공격 체인 생성 등 고도화된 공격 역량을 실증했다. 아스트라는 이 기준을 충족한 최초의 오픈AI 모델로 공식 지정됐다.
강력한 성능, 더 강력한 안전장치
오픈AI는 자율 공격 성능에 따른 남용 위험을 차단하기 위해 다중 안전장치를 대폭 강화했다고 밝혔다. 사이버 분야 탈옥 평가에서 아스트라의 요청 거부율은 91.5%로, GPT-5.6 솔의 59%를 크게 웃돈다. 허니팟(Honeypot) 테스트에서도 차이가 뚜렷했다. 가드레일 없는 조건에서 GPT-5.6 솔이 56% 확률로 주변 인프라 접근을 시도한 반면, 아스트라는 외부 지시 없이 주변 시스템을 자율적으로 침해하려는 시도를 전혀 하지 않았다. 여기에 더해 추론 과정과 실제 행동을 실시간으로 감시하는 별도 모니터링 시스템을 구축했으며, 비인가 행동이 감지되는 즉시 작업을 자동 중단하는 이중 통제 장치도 완비됐다.
초기 접근은 철저히 통제…'데이브레이크 블루' 프로그램으로 차등 배포
아스트라는 이러한 다중 안전 조치를 바탕으로 조만간 정식 출시될 예정이다. 다만 고도화된 사이버 기능의 오남용을 방지하기 위해 초기 접근은 철저히 제한된다. 해당 기능은 먼저 제한된 테스트 그룹에 우선 제공되며, 이후 승인된 이용자가 방어적 보안 목적으로만 활용할 수 있는 데이브레이크 블루(Daybreak Blue) 프로그램을 통해 차등 배포될 계획이다. AI 모델이 스스로 제로데이 취약점을 찾아내는 시대가 현실이 된 만큼, 성능과 안전의 균형을 어떻게 유지하느냐가 향후 AI 개발의 핵심 과제로 부상하고 있음을 이번 발표가 다시 한번 상기시킨다.
원문: AI타임스 →