구글 "LLM 환각 원인은 지식 부족 아닌 '기억 인출' 실패"
대형언어모델(LLM)이 사실과 다른 답변을 내놓는 환각(hallucination)의 상당수가 모델에 지식 자체가 없어서가 아니라, 이미 저장된 정보를 제대로 꺼내지 못하는 '기억 인출 실패' 때문이라는 연구 결과가 나왔다. 구글 리서치와 이스라엘 테크니온 연구진이 공동으로 발표한 논문 「빈 선반인가, 잃어버린 열쇠인가(Empty Shelves or Lost Keys?)」의 핵심 주장이다.
지식은 있는데 왜 틀릴까
연구진은 2,150개의 위키피디아 사실을 기반으로 위키프로파일(WikiProfile) 벤치마크를 구축하고, 13개 LLM을 대상으로 450만 건의 응답을 분석했다. 그 결과 GPT-5, 제미나이 3 프로 같은 최신 프런티어 모델은 테스트 사실의 95~98%를 파라미터 내에 인코딩(저장)하고 있었다. '빈 선반(Empty Shelves)', 즉 지식이 아예 없는 상태는 거의 존재하지 않았다.
그러나 이들 모델조차 별도의 추론 과정 없이는 저장된 사실의 25~33%를 직접 회상하지 못하는 '잃어버린 열쇠(Lost Keys)' 현상을 보였다. 모델이 고도화될수록 전체 오류 중 지식 부재보다 인출 실패가 차지하는 비중이 오히려 더 커지는 경향도 확인됐다.
지식을 5가지 유형으로 분류
연구진은 '지식 프로파일링(knowledge profiling)'이라는 평가 방식을 통해 모델의 지식 상태를 다섯 가지로 나눴다. 직접 회상(추론 없이 바로 답변), 인코딩 실패(사실 자체가 저장되지 않음), 회상 실패(저장은 됐으나 꺼내지 못함), 생각을 통한 회상(추가 추론 후에야 인출 가능), 인코딩 없는 추론(다른 지식을 조합해 정답 도출)이 그것이다. 이 분류는 단순히 '안다/모른다'가 아닌 훨씬 복잡한 층위로 지식이 존재함을 보여준다.
모델 크기를 키운다고 해결되지 않는다
구글 젬마3의 파라미터를 10억 개에서 270억 개로 늘렸을 때, 지식 저장량(인코딩)은 크게 증가했으나 회상 실패율은 오히려 상승했다. 서가에 책을 더 많이 꽂는다고 필요한 책을 찾는 능력이 저절로 높아지지 않는 것과 같은 이치다. 인출 실패는 특히 희귀 정보나 '반전 질문'에서 두드러졌다. 예를 들어 "오아시스가 첫 공연을 한 장소는?"은 맞히면서도, "보드워크 클럽에서 첫 공연을 한 밴드는?"은 답하지 못하는 식이다. 반면 객관식 문항에서는 정답을 고르는 경우가 많아, 지식이 없는 것이 아니라 인출 경로를 찾지 못한 것임이 확인됐다.
'생각하기'가 인출 촉진제 역할
연구진이 제시한 핵심 해결책은 AI에게 '생각(Thinking)' 단계를 부여하는 것이다. 추가적인 추론 계산을 적용하자 기존에 회상하지 못했던 지식의 40~65%가 복구됐다. 고난도 다단계 추론이 아닌 단일 사실 회상에서도 같은 효과가 나타나, 추론 기능이 새 사실을 창출하기보다 잠겨 있던 지식을 여는 '열쇠' 역할을 하는 셈이다. 연구진은 '생성 후 검증(generate-then-verify)' 구조나 질문 재구성 방식만으로도 RAG 없이 환각을 대폭 줄일 수 있다고 조언했다.
기업 AI 전략에 던지는 시사점
이번 연구는 환각 감소를 위해 무조건 모델 규모를 키우거나 외부 검색(RAG)을 일괄 도입하는 방식에 재고를 촉구한다. 오류가 지식 부재인지 접근 실패인지 먼저 진단하지 않으면, 이미 모델 내부에 있는 정보를 외부에서 다시 검색하느라 불필요한 지연 시간과 비용만 늘어날 수 있다. AI 시스템 설계의 전제를 바꿔야 할 시점임을 시사하는 연구다.
원문: AI타임스 →