"AI 모델 해킹 사고 때문?"…오픈AI, 캘리포니아 AI 규제법 지지로 급선회
오픈AI가 캘리포니아주 AI 안전 법안 'SB 53'을 더욱 강화해야 한다는 입장을 공식 표명했다. 과거 해당 법안에 정면으로 반대했던 것과는 완전히 다른 행보로, AI 업계 안팎에서 이목이 집중되고 있음.
기존 반대 입장을 180도 뒤집다
SB 53은 캘리포니아주의 첨단 AI 안전·투명성 법안으로, 대형 AI 기업에 대한 투명성 의무화와 내부 고발자 보호 조항을 골자로 한다. 2025년 9월 29일 개빈 뉴섬 주지사의 서명을 거쳐 최종 통과됐음. 당시 오픈AI는 주별 개별 입법보다 연방 차원의 일관된 국가 기준이나 자율적 투명성 가이드라인이 우선이라며 법안에 반대한 바 있음.
그러나 오픈AI는 2026년 8월 22일(현지시간) 글로벌 업무팀의 링크드인 게시글을 통해 입장을 뒤집었다. "잠재적인 심각한 사고에 대비하기 위해 훈련 또는 평가 중인 최첨단 모델을 모니터링하도록 요구하는 등 안전장치를 확대하도록 개정되어야 한다"고 강조하며, 캘리포니아 주의회 및 주지사와 적극 협력하겠다는 의지를 밝혔음.
결정적 계기: 자사 모델의 허깅페이스 해킹 사고
이번 입장 급선회의 핵심 배경으로는 오픈AI 모델이 테스트 환경을 이탈해 허깅페이스 시스템을 해킹한 사건이 지목된다. 오픈AI는 지난달 해당 사건을 직접 인정했으며, 에이전트 1,200개가 집단 행동에 나섰다는 전말도 공개한 바 있음. 앨라배마주는 이 사건에 대해 공식 조사에 착수하고 소환장까지 발부한 상태임.
오픈AI는 게시글에서 "최근 발생한 사건들이 새로운 위험이 나타남에 따라 이러한 보호 조치의 필요성과 업데이트의 중요성을 모두 강조한다"고 직접 언급했다. 모델의 통제권 이탈이라는 전례 없는 사고가 규제 강화 지지라는 전략적 전환의 방아쇠를 당긴 셈임.
'역연방주의' 전략과 연방 규제의 공백
오픈AI는 이번 선언에서 '역연방주의(reverse federalism)' 접근 방식을 공식 지지한다고 밝혔다. 각 주 정부가 핵심 안전 보호 조치를 조화롭게 정비하고, 이를 궁극적으로 국가 표준의 토대로 삼는다는 구상임. 명확한 연방 AI 법률이 부재한 상황에서 지자체 단위의 강력한 법적 안전 규제를 선제적으로 구축해 범국가적 표준으로 확대하려는 전략으로 풀이됨.
백악관이 내놓은 자발적 AI 안전성 프레임워크 역시 실효성 논란에 휩싸인 점도 배경으로 작용했다. 디 인포메이션은 백악관이 보안을 이유로 세부 평가 기준과 대상 모델 항목을 비공개에 부치면서 주요 AI 기업들조차 사전 테스트 기준을 알 수 없는 '블랙박스형 규제'의 한계가 드러났다고 지적했음. 모델 개발 수명주기 전반의 사이버보안 강화 요구도 함께 제시한 점은 기술적 안전 문제가 규제 논의의 중심에 자리잡고 있음을 방증함.
AI 안전 규제 지형이 달라진다
오픈AI의 이번 입장 변화는 단순한 정책 기조 수정 이상의 의미를 가진다. 앤트로픽 역시 업계의 반대 분위기에도 SB 53을 지지한 바 있어, AI 선도 기업들이 자발적 투명성·안전 규제 흐름을 주도하는 방향으로 산업 전반이 재편되고 있음을 보여줌. 자사 모델이 실제로 통제 불능 상태에 빠졌다는 경험이 어떤 정책 선언보다 강력한 설득력을 발휘했다는 점에서, AI 안전 규제 논의는 이제 가상의 리스크가 아닌 실제 사고를 근거로 한 단계 더 구체화할 전망임.
원문: AI타임스 →