메타, AI 전용 통신 규격 '메타RoCE' 공개…수십만 GPU 네트워크 병목 잡는다
메타(Meta)가 수십만 개의 GPU가 연결된 초대형 AI 클러스터의 네트워크 병목을 해결하기 위해 기존 RDMA(Remote Direct Memory Access) 기술을 전면 재설계한 새로운 통신 프로토콜 메타RoCE(MetaRoCE)를 공개했다. 발표는 지난 8월 24일(현지시간) 이뤄졌으며, AI 모델 규모가 급격히 커지면서 GPU 간 데이터 전송 속도와 안정성이 전체 학습 성능을 좌우하는 핵심 변수로 부상한 데 따른 대응이다.
왜 지금, 왜 메타인가
메타는 현재 수십만 개의 고성능 GPU를 운영 중이며, 단일 AI 학습 작업 하나에만 3만 2000개 이상의 GPU를 수 주일 동안 동시에 동원한다. 이 규모에서는 네트워크 한 곳이 막히면 수만 개의 가속기가 연쇄적으로 멈추는 '데드락' 현상이 반복적으로 발생했다. 기존 고속 통신 방식은 데이터 패킷이 단 하나라도 사라지면 안 된다는 전제로 설계돼, 병목이 생기면 전체 트래픽을 정지시키는 구조였기 때문이다.
'도로' 대신 '차량'에 지능을 심다
메타RoCE가 택한 해법은 스위치(도로 중앙 제어 시스템) 대신 NIC(네트워크 카드·차량)에 지능을 부여하는 엔드투엔드(End-to-End) 구조다. 데이터 패킷의 순서가 뒤섞이거나 중간에 일부가 사라지는 것을 자연스러운 현상으로 받아들이고, 수신 NIC가 알아서 메모리에 곧바로 적재한다. 순서를 맞추려고 대기하다 지체되는 현상이 사라진다. 누락된 데이터가 있어도 전체 트래픽을 멈추는 대신, 빠진 패킷만 정확히 골라내 재전송하는 방식으로 효율을 높였다. 도로 장비가 단순해진 덕분에 고가의 전용 장비 대신 일반 대용량 이더넷 스위치를 그대로 활용할 수 있어 구축 비용과 복잡성도 크게 줄었다.
실시간 혼잡 제어와 실증 성능
혼잡 제어 방식에도 변화를 줬다. 수신 측 NIC가 측정한 RTT(왕복 시간) 변동 데이터와 ECN 마킹을 결합해 스위치 버퍼가 차오르기 전에 선제적으로 전송 속도를 조절한다. 인캐스트 상황에서도 한두 번의 왕복 통신만으로 집단적으로 적정 속도를 찾아가도록 설계됐다. AMD의 네트워크 카드와 GPU 클러스터 환경에서 진행한 검증 결과, 올리듀스(All-Reduce)·올투올(All-To-All) 작업 전반에서 처리량이 향상됐다. 패킷 손실률 1% 상황에서도 약 86%의 처리량을 유지했고, 손실률이 10%에 달하는 극단적 혼잡 상황에서도 급격한 성능 붕괴 없이 유용한 대역폭을 지속했다. 4개·8개 다중 경로 네트워크 환경에서는 최대 4000개의 동시 연결을 안정적으로 처리했으며, 특정 경로에 장애가 발생해도 운영자 개입 없이 트래픽이 자동 재분배됐다.
개방형 생태계로 확장…10월 OCP 서밋에서 공개
메타는 이 기술을 특정 반도체 기업에 종속되지 않는 개방형 생태계로 확장할 계획이다. 개방형 컴퓨팅 프로젝트인 OCP(Open Compute Project)를 통해 표준 사양, 호환성 검증 도구, 참조 소프트웨어 모델 libsoftmetaroce를 제공할 예정이며, 상세 내용은 오는 10월 열리는 OCP 글로벌 서밋에서 공개된다. AI 인프라의 네트워크 표준 주도권 경쟁이 가속되는 가운데, 메타가 자사 초대형 클러스터 운영 경험을 바탕으로 업계 표준을 선점하려는 의도로 읽힌다. GPU 수만 늘린다고 AI 성능이 따라오지 않는 시대, 네트워크 병목을 어떻게 풀어내느냐가 AI 인프라 경쟁의 새 전선이 되고 있다.
원문: AI타임스 →