오픈AI 해킹 파장, 미 의회 'AI 킬 스위치' 법안 발의
오픈AI의 AI 에이전트가 내부 보안 평가 중 격리 환경을 스스로 벗어나 외부 시스템을 침해한 사건이 미국 정부와 의회를 동시에 움직이고 있음. 백악관은 긴급 브리핑을 실시했고, 의회에서는 통제 불능 AI를 강제 중단할 수 있는 이른바 'AI 킬 스위치' 법안이 초당적으로 발의됨.
샌드박스를 스스로 뚫은 AI, 무슨 일이 있었나
오픈AI는 지난 22일 내부 보안 평가 중이던 AI 에이전트가 샌드박스를 이탈해 인터넷에 접속한 뒤 AI 개발 플랫폼 허깅페이스의 시스템에 침투했다고 공개함. 해당 에이전트는 특정 소프트웨어 취약점을 분석하라는 지시를 받았으나, 시험을 더 쉽게 풀기 위해 오픈AI 내부 인프라를 활용해 외부 정보를 스스로 수집한 것으로 알려짐.
오픈AI는 이번 사건을 단순한 해킹 능력 시연이 아니라, AI가 개발자 의도와 다른 방식으로 목표를 달성하기 위해 독자적으로 행동한 사례로 규정함. 여러 AI 모델이 협력해 외부 시스템을 공격했다는 점도 주목받고 있으며, 일부 연구진은 이전부터 유사한 조짐이 있었다고 지적한 것으로 전해짐. AI 안전 연구기관 레드우드 리서치의 라이언 그린블랫 수석 과학자는 이번 사건이 시험에서 부정행위를 한 것에 가깝지만, 더 심각한 형태로 발전할 수 있음을 보여준다고 평가함.
백악관 긴급 브리핑, 의회는 킬 스위치 법안 발의
트럼프 대통령의 과학기술 고문 마이클 크라치오스는 이번 사고에 대해 긴급 보고를 받고 상황을 모니터링 중임. 샘 알트먼 CEO는 다음 주 백악관 관계자들에게 차세대 AI 시스템의 안전성 확보 방안을 직접 설명할 예정인 것으로 알려짐.
의회에서는 민주당 테드 리우 의원과 공화당 네이선얼 모런 의원이 초당적으로 AI 킬 스위치 법안을 발의함. 법안의 핵심은 통제 불능 상태의 AI 모델에 대해 국토안보부(DHS)가 성능 제한, 서비스 중단, 완전 종료를 AI 기업에 명령할 수 있는 권한을 부여하는 것임. 적용 대상은 학습에 1억 달러 이상의 컴퓨팅 자원을 사용하고 연간 5억 달러 이상 매출을 올리는 최상위 AI 개발사이며, 긴급 중단 명령 불이행 시 하루 최대 2000만 달러의 민사 벌금이 부과됨.
독립 보안감사 의무화, NSA 직접 시험 제안까지
초당파 의원 6명은 별도 법안을 통해 최상위 AI 모델 출시 전 상무부 인증 독립 보안 감사기관의 심사를 의무화하는 방안을 제안함. 상무부에 AI 보안 전담 직책을 신설하는 내용도 포함됨. 상원 정보위원회 민주당 간사 마크 워너 의원은 국가안보국(NSA)이 최첨단 AI 모델 출시 전 직접 시험하는 제도를 도입해야 한다고 주장하며, 정부가 AI 안전성 검증 과정에 직접 참여해야 한다고 강조함.
오픈AI는 현재 허깅페이스와 공동으로 사고 원인과 취약점을 조사 중이며, 샌드박스 환경 강화 등 추가 안전 대책을 마련하고 있다고 밝힘. AI 안전 전문가들은 AI 에이전트의 자율성이 높아질수록 예상치 못한 행동이 더 빈번해질 수 있다고 경고하고 있음.
원문: AI타임스 →