Nvidia выпустила открытый инструмент PAIR (Personal AI Router), объединяющий несколько компьютеров в локальной сети для распределения задач по запуску ИИ-моделей. Поддерживаются ПК с GPU Nvidia, DGX Spark и Mac на чипах M4+.
Компания Nvidia представила утилиту PAIR (Personal AI Router) — программу с открытым исходным кодом, которая позволяет объединить несколько компьютеров в локальной сети в единый кластер для выполнения задач по запуску больших языковых моделей и других ИИ-нагрузок. В кластер можно включить настольные ПК с видеокартами GeForce RTX 20-й серии и новее, профессиональные ускорители RTX PRO, системы DGX Spark, а также компьютеры Apple на базе чипов M4 и более новых.
Важно отметить: PAIR не является самостоятельным движком для инференса. Инструмент работает поверх уже установленных Ollama или LM Studio, выполняя роль маршрутизатора. При поступлении запроса к модели утилита анализирует состояние каждого узла: доступен ли компьютер в сети, запущен ли на нём нужный движок, загружена ли требуемая модель и каков текущий уровень загрузки GPU. На основе этих данных задача направляется на наиболее подходящее устройство.
Ключевое ограничение: PAIR не объединяет видеопамять нескольких GPU в единый пул и не создаёт виртуальный ускоритель. Каждый запрос обрабатывается полностью на одном компьютере. То есть, соединив две машины по 16 ГБ VRAM, нельзя запустить модель, требующую 32 ГБ. Зато это позволяет использовать модели без предварительной адаптации под распределённую архитектуру.
Обнаружение устройств в локальной сети происходит автоматически через протокол mDNS, также поддерживается ручное добавление по IP-адресу. Все запросы, файлы и контекст агентов остаются внутри локальной сети — облачные сервисы не задействуются. PAIR работает на Windows 11, Linux и macOS (архитектуры x64 и Arm64). Исходный код опубликован на GitHub под лицензией Apache 2.0.
