엔비디아 NVLink에 도전장… 코넬리스·델로스, AI 스케일업 네트워킹 시장 진입

더 레지스터(The Register)는 15일 엔비디아의 NVLink 독주에 맞서 코넬리스 네트웍스(Cornelis Networks)와 신생 기업 델로스 데이터(Delos Data)가 개방형 AI 네트워킹 기술을 들고 시장에 뛰어들었다고 보도했다. 두 회사는 이번 주 열린 AI 인프라 서밋에서 각각 신기술을 공개했다.

스케일업 패브릭은 다수의 GPU를 하나의 거대한 가속기처럼 묶어주는 기술로, 엔비디아는 NVLink를 통해 8개, 72개에 이어 576개 GPU까지 연결해왔다. 2020년 인텔에서 분사한 코넬리스는 프로그래머블 연산 기능을 네트워크 안에 통합하는 개방형 구조 '액티브 컴퓨트 패브릭(ACF)'을 발표했다. KV 캐시 오프로딩, 전문가 혼합(MoE) 모델의 전문가 디스패치, 패브릭 내 체크포인팅 등을 가속하는 것이 목표다. 코넬리스는 공개 데이터를 모델링한 결과 10만 GPU 규모 시스템에서 전체 GPU 가동 시간의 약 절반이 데이터를 기다리는 데 쓰이며, 이는 연간 약 16억8000만 달러와 500GWh의 낭비에 해당한다고 주장했다.

바피풋 네트웍스와 인텔 출신 인사들이 세운 델로스 데이터는 물리 계층을 겨냥한 '논스톱 AI' 참조 설계를 내놨다. 총 30Tbps(단방향 약 8TB/s) 이상의 대역폭을 내는 I/O 다이, 근접 패키지 광학(NPO) 모듈, 400Gbps급 NIC 등 세 가지 형태로 제공된다. 이 칩렛들은 UALink나 ESUN 등 특정 프로토콜에 종속되지 않는 점이 특징이다.

자금 조달도 이어졌다. 코넬리스는 약 2억500만 달러를, 델로스 데이터는 매트릭스·플레이그라운드·소크라틱 파트너스 등으로부터 누적 1억 달러 이상을 각각 유치했다고 밝혔다.