오픈AI, 살해 계획 담긴 챗GPT 대화 경찰에 신고…AI 대화 감시 논란
오픈AI가 챗GPT 이용자의 대화에서 타인에 대한 구체적인 살해 위협을 탐지해 미 연방수사국(FBI)에 직접 신고하고, 이것이 실제 피의자 체포로 이어진 사실이 확인됐다. AI 기업이 이용자 대화 내용을 수사기관에 제보한 희귀 사례로, AI 챗봇의 안전장치 강화와 이용자 사생활 보호 간의 경계선 논쟁이 다시 뜨겁게 달아오르고 있다.
전 골드만삭스 애널리스트, 챗GPT에 살해 계획 털어놔
미국 플로리다주에 거주하던 전 골드만삭스 애널리스트 대런 저우는 지난 3월 여자친구와 이별한 뒤 챗GPT에 이별 과정과 전 여자친구에 대한 질투심, 재결합 욕구 등을 쏟아내기 시작했다. 대화는 점차 과격해져 "이달 말까지 그녀를 죽이겠다"는 취지의 메시지로 발전했으며, 전 여자친구뿐 아니라 그 가족까지 위협 대상으로 언급한 것으로 조사됐다. 피해 여성(21세)은 이별 후 저우가 전화·문자·소셜미디어를 통해 지속적으로 연락했고, 타인의 틱톡 댓글을 문제 삼아 집요하게 추궁했다고 진술했다.
오픈AI → FBI → 지역 경찰… 대화 기록이 체포 증거로
오픈AI는 저우의 대화에서 "다른 사람에게 심각한 위해를 가할 가능성이 있다"고 판단해 관련 내용을 FBI에 전달했다. 연방 수사관들은 약 두 달 치 챗GPT 대화 기록을 팜비치카운티 보안관실에 넘겼고, 담당 수사관은 이를 단순한 감정 폭발이 아닌 반복적인 계획과 실행 준비로 판단했다. 경찰은 5월 저우를 체포했으며, 그는 이틀간 구치소에 수감된 뒤 10만 달러의 보석금을 내고 석방됐다. 검찰은 가중 스토킹·살해 협박·휴대전화 불법 사용 등 세 가지 혐의로 기소했고, 저우는 합의를 통해 실형과 중범죄 유죄 판결을 피하는 대신 8년간 보호관찰과 2년간 전자발찌 착용 처분을 받게 됐다.
오픈AI의 대화 모니터링 정책, 어디까지인가
이번 신고는 오픈AI가 최근 강화한 대화 모니터링 정책에 따른 것이다. 오픈AI는 공식 블로그를 통해 이용자 정신건강 위기 대응에 문제가 있었음을 인정하고, 위험 콘텐츠 탐지를 위해 챗GPT 대화를 모니터링하고 있다고 공개했다. 타인을 해칠 계획이 감지된 대화는 별도의 검토 시스템으로 전달되고, 소수의 전문 인력이 검토한 뒤 임박한 심각한 신체적 위해 가능성이 크다고 판단되면 법 집행기관에 신고한다는 방침이다. 다만 자살·자해 관련 사례는 챗GPT의 사적 성격을 고려해 경찰에 신고하지 않는다고 밝혔다. 이 같은 정책 강화는 캐나다와 플로리다주에서 발생한 총격 사건 당시 용의자가 챗GPT와 범죄를 논의했음에도 사전 신고가 이뤄지지 않았다는 강한 비판을 받은 데 따른 것이다.
프라이버시 이중 잣대 논란도 함께 부상
이번 사건은 동시에 감시 기준의 불투명성과 사생활 침해 논란을 새롭게 불러일으키고 있다. 오픈AI의 이용 정책에는 타인 위해 행위 금지가 명시돼 있지만, 어떤 대화가 인간 검토 대상이 되는지, 어느 수준의 위협이어야 경찰 신고로 이어지는지 구체적인 기준은 공개되지 않았다. 특히 오픈AI는 뉴욕타임스 등 언론사와의 저작권 소송에서는 이용자 프라이버시를 이유로 대규모 대화 로그 제공을 강하게 거부해 왔다. 수사기관에는 대화 기록을 제공하면서 소송에서는 거부하는 모습에 이중 잣대라는 지적이 나오고 있다. 전문가들은 이번 사건이 AI 대화가 범죄 수사의 결정적 증거로 활용될 수 있음을 보여주는 동시에, AI 챗봇이 보편화된 시대에 개인의 민감한 대화 보호와 공공 안전 확보라는 두 가치가 어떻게 충돌하는지를 단적으로 드러낸 사례라고 평가했다.
원문: AI타임스 →