NVIDIA представила PAIR для объединения домашних компьютеров при работе с ИИ

PAIR — это программа для распределения ИИ-задач между компьютерами в одной локальной сети. При этом дополнительное оборудование для этого вам не понадобится.

Программа устанавливается на каждый компьютер, самостоятельно находит устройства в сети через mDNS и связывает их при помощи шестизначного кода. Для передачи данных используется защищенное соединение.

Когда поступает новый запрос к ИИ, PAIR проверяет загрузку доступных компьютеров и направляет задачу на свободное устройство. Например, если на основном ПК запущена игра, система может использовать другой компьютер.

Но важно понимать, что PAIR не объединяет несколько видеокарт в один большой ускоритель, не складывает их видеопамять и не делит одну модель между машинами. Система просто распределяет независимые задачи.

PAIR работает с интерфейсами Ollama и LM Studio. Поддерживаются Windows, Linux и macOS. Причем использовать можно не только видеокарты NVIDIA. Говорят, можно объединять до 18 устройств!

Программа вышла в бета-версии с открытым исходным кодом по лицензии Apache 2.0.