구글 '프로즌 v2' 칩, 제미나이 구조를 실리콘에 새긴다
구글이 제미나이 AI 모델의 아키텍처를 칩 하드웨어에 직접 새겨 넣는 서버 칩 '프로즌 v2'를 내부적으로 개발 중인 것으로 알려졌다. 더 인포메이션이 인용한 소식통에 따르면, 이 칩은 현재 구글의 TPU 대비 AI 응답 처리 효율을 6~10배 높일 수 있으며, 2028년부터 배포가 시작될 예정이다.
가중치 대신 구조를 굳힌다
프로즌 v2의 핵심 아이디어는 AI 모델의 가중치가 아닌 아키텍처, 즉 모델의 설계 청사진 자체를 칩에 고정하는 방식이다. 초기 설계안은 구글 딥마인드 수석 과학자 제프 딘이 제안한 것으로 전해지며, 당시에는 가중치를 칩에 직접 내장하는 방안이었다. 그러나 특정 제미나이 버전에만 작동하고 빠르게 구식이 될 수 있다는 판단에 따라 해당 방식은 폐기됐다. 프로즌 v2는 아키텍처만 고정하고 새로운 가중치는 여전히 칩에 불러올 수 있어 유연성을 확보했다.
내부 연산 병목 해소가 목표
이 칩은 제미나이 아키텍처가 유지되는 동안에만 작동하는 구조여서, 외부 고객에게 판매하거나 임대하는 제품이 되기는 어렵다. 구글은 이미 TPU를 외부 클라우드 고객에게 제공하고 있지만, 프로즌 v2는 내부 AI 연산 수요를 해소하는 데 초점이 맞춰져 있다. 생산 규모도 TPU 라인보다 작게 유지될 전망이다.
추론 비용 경쟁의 새 변수
AI 산업에서 추론 비용 최적화는 기업 수익성을 좌우하는 핵심 요소로 부상하고 있다. 프로즌 v2가 목표 성능을 달성할 경우, 구글은 강력한 모델을 더 낮은 비용으로 운용해 오픈AI, 앤스로픽 등 경쟁사 대비 가격 경쟁력을 확보할 수 있다. 다만 칩에 하드코딩될 아키텍처의 범위는 아직 결정되지 않은 것으로 알려졌다.
원문: THE DECODER →