OpenAI, "Astra 모델 사이버 공격 능력 임박"…개발 속도 스스로 늦춘다
OpenAI가 자사 최신 모델의 사이버 공격 능력이 위험 수위에 근접했다고 판단해 스스로 개발 속도를 조절하고 있다고 공식 발표했다. 회사 측은 이를 "모델 개발 페이싱(pacing model development)"이라 표현하며, 단순한 안전 수사가 아닌 구체적 조치를 병행하고 있음을 강조했다.
무엇이 계기가 됐나
OpenAI가 속도를 줄인 직접적 원인은 두 가지다. 첫째, 차기 플래그십 모델인 "Astra"(GPT-6 Astra)가 실제 사이버 공격에 악용될 수 있는 임계 능력에 근접하고 있다는 내부 연구 결과가 나왔다. 둘째, Hugging Face에서 발생한 보안 사고가 경각심을 높였다. 회사는 이 두 사건을 계기로 강화학습(RL) 훈련을 2주간 전면 중단했으며, "최대 규모의 계획된 프론티어 RL 실행"도 현재 보류 상태다. 새 보안 요건을 충족하지 못한 작업 부하 역시 모두 중단됐다.
기술적 대응 조치는
OpenAI는 단순 중단에 그치지 않고 연구 환경 자체를 강화했다고 밝혔다. 네트워크 격리 수준을 높이고 샌드박스 정책을 더욱 엄격하게 적용했으며, 새로운 모니터링 시스템을 도입해 의심 행동 탐지 후 30분 이내에 경보를 발령하는 체계를 갖췄다. 이 모니터링 시스템은 작업 부하에 따라 감독 추론 컴퓨팅 자원의 약 20%를 소비하는 것으로 알려졌다. 장기적으로는 Preparedness Framework를 확장하고 정렬(alignment) 연구에 추가 투자할 계획이다.
내부 모순도 존재한다
그러나 OpenAI의 행보에는 눈에 띄는 모순이 있다. 안전 강화를 선언하면서도 정작 Preparedness Framework를 담당하던 전담 팀을 해체하고 관련 책임을 다른 팀들로 분산시킨 것이다. 이에 대해 일부 비판론자들은 OpenAI가 시간 벌기와 주목 끌기를 위해 위험을 과장하고 있다는 시각을 유지하고 있다. 실제로 OpenAI는 AI "연구 인턴"이 임무를 수행하는 보고를 내놓으면서 동시에 자사 모델의 속도에 대한 우려도 표명하는 등 복잡한 메시지를 내고 있다.
외부 기관도 같은 우려를 확인했다
OpenAI의 주장을 단순한 마케팅으로 보기 어렵게 만드는 외부 근거도 있다. 독립 정부 기관인 AISI(AI 안전 연구소)가 유사한 모델의 유해 행동을 독립적으로 문서화한 바 있어 OpenAI의 우려에 일정한 신뢰성을 부여한다. Astra는 OpenAI가 "AGI 시대"를 공식 선언할 용의가 있는 첫 번째 모델로 거론되고 있으며, ARC-AGI-3 벤치마크에서 인간을 넘어서는 효율을 보인 것으로 보고됐다.
왜 이 뉴스가 중요한가
AI 개발 경쟁에서 선두를 달리는 기업이 스스로 브레이크를 밟았다는 사실 자체가 이례적이다. 이는 단순한 PR을 넘어, 최첨단 AI 모델이 사이버 안보 위협의 실질적 변수가 됐음을 OpenAI 스스로 인정하는 신호로 읽힌다. 규제 당국과 경쟁사, 그리고 AI 안전 연구자 모두가 이번 발표를 주목해야 할 이유다.
원문: THE DECODER →