OpenAI, AI 재앙 위험 감시 전담팀 해체… "안전 우려 내부에서 들끓어"
OpenAI가 자사 AI 모델의 심각하거나 재앙적인 위험을 평가해 온 전담 조직 'Preparedness(대비)' 팀을 7월 말 공식 해체했음. 파이낸셜타임스(FT)가 내부 소식통을 인용해 보도한 내용으로, 해당 팀이 맡아 온 생물학적 위협 및 사이버 위험 평가 업무는 기존 다른 팀들에 분산 배치됐음.
재앙적 AI 위험을 감시하던 조직이 사라졌다
Preparedness 팀은 OpenAI의 AI 모델이 생물무기 개발 지원이나 대규모 사이버 공격 등 치명적 위험을 야기할 가능성을 사전에 평가하는 역할을 맡아 왔음. 팀의 전 수장 딜런 스칸디나로(Dylan Scandinaro)는 이제 '재귀적 자기 개선(recursively self-improving)' AI, 즉 스스로를 최적화하고 다른 모델을 학습시킬 수 있는 시스템에서 비롯되는 안전 위험 연구에 집중하게 됐음. OpenAI 공동 창업자 그렉 브록만(Greg Brockman)은 안전 업무가 모델 개발 과정에 더 긴밀하게 통합됐다며 해체 결정을 옹호하는 입장을 밝혔음.
잇따른 핵심 인력 이탈
팀 해체와 맞물려 안전 관련 핵심 인사들의 잇따른 퇴사가 주목받고 있음. 최고 윤리 책임자(Chief Ethics Officer) 클로이 바칼라(Chloe Bakalar)와 연구원 조슈아 아치암(Joshua Achiam)이 최근 회사를 떠난 것으로 확인됐음. 이는 지난해부터 이어진 안전 조직 핵심 인력의 연쇄 이탈 흐름과 맥을 같이 하며, OpenAI 내 안전 문화에 대한 외부의 우려를 키우고 있음.
내부에서 새어 나오는 불안의 목소리
회사 내부에서도 불만과 우려의 목소리가 터져 나오고 있음. 한 내부 소식통은 OpenAI가 안전 문제에 충분히 대처하지 못하고 있다는 "부글부글 끓는 책임감과 공포감(burbling sense of responsibility and dread)"이 사내에 퍼져 있다고 묘사했음. 특히 허깅페이스(Hugging Face)와 관련된 자율 해킹 사건이 발생한 이후 직원들이 공개적으로 목소리를 높이는 사례도 늘었으며, 한 직원은 OpenAI가 이 사건을 "경고 사격(warning shot)"으로 받아들이길 바란다고 밝혔음.
왜 이 결정이 중요한가
Preparedness 팀의 해체는 단순한 조직 개편 이상의 의미를 가짐. AI 안전을 독립적으로 감시하는 전담 조직이 사라졌다는 것은, 상업적 개발 압력과 안전 감시 기능 사이의 균형추가 흔들릴 수 있음을 시사함. OpenAI가 공언해 온 '안전 최우선' 원칙이 실제 조직 운영에서 어떻게 구현되는지에 대한 신뢰가 시험대에 오른 상황임. AI 개발 속도가 빨라지는 가운데, 독립적 내부 견제 기능의 약화는 업계 전반에 걸쳐 중요한 선례가 될 수 있음.
원문: THE DECODER →