메타, 2026 OCP 글로벌 서밋에서 AI 네트워크 혁신 기술 공개

AI 네트워크 혁신 기술 공개

메타는 2026 OCP 글로벌 서밋에서 최신 AI 모델인 뮤즈 원더(Muse Wonder), 뮤즈 스파크(Muse Spark) 및 기가와트급 프로메테우스(Prometheus) 클러스터를 지원하는 다양한 네트워크 혁신 기술을 공개했다. 이번 발표에는 액체 냉각 네트워크 랙, 확장형 패브릭 아키텍처, 페타비트급 슈퍼 스파인, 그리고 오픈소스 RDMA 전송 기술 등이 포함된다. 메타는 AI 시대의 급증하는 컴퓨팅 요구사항에 대응하기 위해 네트워크 인프라의 확장성, 효율성, 개방성을 강화하는 데 중점을 두었다.

기가와트급 AI 인프라의 배경

AI 기술의 발전은 인프라의 형태를 근본적으로 변화시켰으며, 컴퓨팅 성능만큼이나 네트워크의 중요성이 커지고 있다. 메타는 기가와트 규모의 AI 인프라를 설계, 구축, 운영하기 위해 네트워크, 시설, 시스템 전반에 걸친 재고가 필요하다고 강조한다. 특히 AI 훈련 컴퓨팅은 인프라 확장 속도보다 빠르게 증가하고 있어, 데이터센터와 지역을 아우르는 개방형 스케일-어크로스(scale-across) 네트워킹이 필수적이다. 이러한 배경에서 메타는 독점적인 솔루션 대신 개방형 생태계를 통한 풀스택(full-stack) 접근 방식을 지향한다.

주요 기술별 상세 내용

메타는 액체 냉각 네트워크 랙인 'IcePack'과 여기에 탑재되는 102.4T 스위치 'IceCube'를 선보였다. IceCube는 128x800G의 논블로킹(non-blocking) 용량을 제공하며, 브로드컴 토마호크 6C(Broadcom Tomahawk 6C) 또는 엔비디아 스펙트럼-6(NVIDIA Spectrum-6) ASIC을 기반으로 한다. 이 스위치는 2OU(2 Rack Unit) 크기에 하이브리드 액체/공기 냉각 및 PHY-less 설계를 특징으로 하며, FBOSS를 운영체제로 사용한다. 또한, AI 네트워크의 스케일-아웃(scale-out)을 위해 'Flattened Planar Fabric (FPF)'을 도입했다. FPF는 각 GPU가 8개의 네트워크 플레인에 연결되는 다중 플레인 패브릭으로, 기존 3계층 클로스(Clos) 아키텍처를 2계층으로 단순화하고 NIC 수준의 패킷 스프레이(packet spraying) 및 호스트와 스위치가 결합된 제어 플레인을 사용한다. 이 기술은 엔비디아와 협력하여 개발되었으며 클라우드 파트너와 공유된다.

스케일-어크로스(scale-across) 네트워킹을 위해 메타는 페타비트급 슈퍼 스파인(super-spine)인 'BAG(Backend Aggregation)'을 프로메테우스 클러스터에 적용하여 건물, 캠퍼스, 지역을 연결한다. 또한, FBOSS와 SAI(Switch Abstraction Interface) 기반의 SRv6(Segment Routing over IPv6) 지역 백본을 구축했다. SRv6는 새로운 백본 계층으로 채택되었으며, WAN 거리에서 얕은 버퍼(shallow buffers)를 사용하는 등 프로덕션 환경에서 데이터 플레인과 제어 플레인이 작동하는 방식과 수개월 내에 개념부터 배포까지 가속화된 일정을 공유했다. 스케일-업(scale-up)을 위한 이더넷 기술로는 MTIA 300 AI 시스템용 스케일-업 스위치 'Tahan'을 소개했다. Tahan은 브로드컴 토마호크5(Broadcom Tomahawk5) 기반이며, 102.4T 실리콘에서 랙당 72개의 가속기를 지원하는 프리뷰를 공개했다. 또한, 'ESUN(Ethernet for Scale-up Networking)'은 1.0 사양이 출시되었고 1.1 사양이 곧 발표될 예정이다.

메타는 마이크로소프트, 알리바바와 함께 새로운 OCP 이니셔티브인 'OSPA(Open Switch Platform Architecture)'를 공동으로 주도한다. OSPA는 스위치 플랫폼 계층을 표준화하기 위한 것으로, v1.0 사양이 OCP에 제출되었다. SAI가 데이터 플레인 소프트웨어의 이식성을 높였지만, 스위치 플랫폼 계층은 여전히 독점적이고 파편화되어 있어 플랫폼당 수개월의 중복된 브링업(bring-up) 작업을 초래했다. OSPA는 이 계층에 대한 통합된 다중 공급업체 참조 설계를 제안한다. 또한, AI 네트워크를 위한 RDMA(Remote Direct Memory Access) 전송 기술인 'MetaRoCE'를 오픈소스로 공개한다. MetaRoCE는 AI 클러스터에서 올-리듀스(all-reduce) 및 올-투-올(all-to-all) 성능에 결정적인 영향을 미치는 RDMA 전송을 재고한 것으로, 사용자 공간 버전(libsoftmetaroce)이 GitHub에 공개되었으며, DPDK 기반 버전도 곧 출시될 예정이다.

개발 및 운영에 미치는 영향

OSPA의 도입은 스위치 플랫폼 계층의 표준화를 통해 개발자들이 새로운 하드웨어 플랫폼을 통합하는 데 드는 시간과 노력을 크게 줄일 것으로 기대된다. 이는 다중 공급업체 환경에서의 상호 운용성을 향상시키고, AI 인프라 구축의 효율성을 높이는 데 기여한다. MetaRoCE의 오픈소스화는 AI 네트워크 개발자들이 최적화된 RDMA 전송 기술에 접근하고, 이를 자신들의 특정 요구사항에 맞게 커스터마이징할 수 있는 기회를 제공한다. 이는 AI 워크로드의 성능을 향상시키고, 개방형 생태계 내에서 RDMA 기술의 발전을 가속화할 수 있다. FPF와 같은 확장형 패브릭 아키텍처는 AI 훈련 및 추론 워크로드의 효율성을 높여 개발자들이 더 크고 복잡한 모델을 더 빠르게 개발하고 배포할 수 있도록 지원한다.

적용 조건 및 한계

메타는 AI 네트워크 구축 과정에서 여러 도전 과제와 한계를 공유했다. 예를 들어, 리타이머 DSP(retimer DSP)를 제거한 리니어 옵틱스(Linear Pluggable Optics)는 전력, 발열, 비용을 절감하지만, 이퀄라이제이션(equalization) 및 트리아지(triage) 작업을 호스트로 이동시켜 플릿(fleet) 규모에서 리타임드(retimed) 방식과 동일한 신뢰성을 유지할 수 있는지에 대한 검증이 필요하다. 구리 기반 스케일-업 인터커넥트(copper scale-up interconnect)의 경우, 랙당 수천 개의 연결에서 99.9%의 수율에도 불구하고 약 10개의 불량 링크가 발생할 수 있으며, 블라인드-메이트 카트리지(blind-mate cartridges)는 링크별 서비스 가능성을 제한한다. 이는 개별 디버깅 문제보다는 통계적 문제로 접근해야 함을 시사한다. 또한, BAG와 같은 스케일-어크로스 솔루션은 빠르게 진화하는 AI 생태계 속에서 플랫폼 적합성, 거리 관리, 신뢰성, 용량 계획 등 엔지니어링 과제를 안고 있다. SRv6 백본의 경우 WAN 거리에서 얕은 버퍼를 사용하는 등 특정 운영 조건이 고려되었다.