엔비디아, 가정용 네트워크를 ‘미니 데이터센터’처럼 쓰는 로컬 AI 라우터 공개

엔비디아가 집 안의 여러 기기를 하나의 연산 자원처럼 묶어 로컬 AI 작업을 분산 처리하는 오픈소스 도구 ‘PAIR(Personal AI Router)’를 공개했다. 이 도구는 기존의 올라마(Ollama)나 LM 스튜디오(LM Studio) 같은 로컬 AI 실행 환경과 네트워크에 연결된 컴퓨터들 사이에 들어가, 요청을 자동으로 여러 기기에 나눠 보내고 결과를 다시 모아주는 방식으로 작동한다. 사용자는 에이전트나 애플리케이션을 따로 바꾸지 않아도 된다.

PAIR의 핵심은 한 대의 GPU에 작업이 몰리는 상황을 줄여 대기 시간을 낮추는 데 있다. 특히 여러 하위 에이전트가 동시에 움직이는 병렬 작업에서 효과를 노린다. 엔비디아는 데모에서 세 대의 기기로 구성한 클러스터가 다섯 개의 하위 에이전트를 포함한 작업을 9분이 채 안 돼 끝냈다고 설명했다. 반면 단일 노트북에서는 같은 작업에 18분이 걸렸다.

지원 하드웨어는 지포스 RTX 20시리즈 이상, RTX 프로 워크스테이션, DGX 스파크, 그리고 M4 이상 애플 실리콘이다. PAIR는 네트워크에서 호환 가능한 장치를 자동으로 찾아내며, 기기 간 통신은 MTLS 암호화로 보호한다. 베타 버전은 윈도우, macOS, 리눅스에서 사용할 수 있다.

이번 공개는 엔비디아가 오픈 AI 생태계를 자사 하드웨어와 더 긴밀하게 묶으려는 흐름의 연장선으로 보인다. 로컬 AI가 확산되면서 개인용 PC와 가정 내 여러 기기를 묶어 더 큰 연산 능력을 확보하려는 수요도 커지고 있다. 엔비디아는 이런 환경에서 네트워크 전체를 하나의 분산형 AI 인프라처럼 활용하도록 하는 도구를 내놓으며, 소비자용 장비와 데이터센터급 활용 사이의 간극을 좁히려 하고 있다.