Аннотация:
Недавно компания NVIDIA официально представила бета-версию Personal AI Router (PAIR) во время IFA 2026. Это бесплатное программное обеспечение с открытым исходным кодом. Это не сетевой аппаратный маршрутизатор в традиционном смысле этого слова, а «виртуальный маршрутизатор» для локального вывода ИИ. Он может автоматически обнаруживать совместимые компьютеры в одной локальной сети, организовывать простаивающие вычислительные мощности нескольких устройств и предоставлять более достаточные ресурсы вывода для агентов ИИ и задач локальных больших моделей.
Демонстрация агента с пятью детьми, анонсированная NVIDIA, также отражает эффект этого подхода. При использовании Hermes Desktop и Ollama кластеру PAIR, состоящему из трех устройств, выполнение задачи потребовалось 8 минут 48 секунд, а одному ноутбуку RTX Spark — 18 минут. NVIDIA считает, что это показывает, что использование простаивающих вычислительных мощностей нескольких устройств в домашней сети может значительно повысить пропускную способность локального многозадачного ИИ.
Важным выводом, лежащим в основе PAIR, является то, что домашние пользователи часто уже имеют несколько компьютеров с определенными вычислительными возможностями, но эти устройства большую часть времени простаивают. Данные, приведенные Nvidia, указывают на то, что более половины домохозяйств в США владеют двумя или более компьютерами, поэтому большое количество графических процессоров и других вычислительных ресурсов не используются полностью в течение значительной части дня. Для семей, в которых есть игровые компьютеры, ноутбуки и другие высокопроизводительные устройства, PAIR пытается превратить эти изначально независимые устройства в пул вычислительных ресурсов, которые могут совместно обслуживать локальный ИИ.
По оценкам технической команды NVIDIA, в крайнем случае в домашнем хозяйстве может быть около 165 терафлопс вычислительной мощности в режиме простоя. Соответствующее ответственное лицо назвало эти локальные вычислительные мощности, которые не были полностью использованы, «неиспользуемыми бесплатными ресурсами токенов дома». Однако NVIDIA ожидает, что типичным пользователям, которым действительно подходит PAIR, не обязательно иметь такой преувеличенный размер устройства. Более реалистичной конфигурацией может быть MacBook или ноутбук с Windows, а также игровой ПК.
В дополнение к PAIR NVIDIA также объявила на этот раз о дальнейшем упрощении процесса развертывания локальных агентов искусственного интеллекта. Три программного обеспечения-агента искусственного интеллекта, в том числе Perplexity Portable Computer, Hermes Agent и OpenClaw, обеспечат более простые методы локальной настройки графических процессоров NVIDIA. Раньше пользователям часто приходилось выбирать модели, находить совместимые серверы вывода, настраивать параметры квантования и выполнять различные конфигурации. Новое решение надеется сжать этот процесс до нескольких кликов.
Среди них Perplexity Portable Computer ранее мог работать на графических процессорах NVIDIA RTX, оснащенных не менее 24 ГБ видеопамяти, и DGX Spark в системах Linux, а версия для Windows также находится в стадии разработки. Это позволяет пользователям хранить большую часть своих рабочих процессов локально и использовать облачные модели, когда необходимы дополнительный поиск или более сильные возможности вывода; система получит согласие пользователя перед передачей контента в облако.
Агент Hermes, разработанный Nous Research, представляет собой универсальный ИИ-агент. Локальная конфигурация версии Windows будет поддерживать развертывание модели одним щелчком мыши. Программное обеспечение может автоматически идентифицировать графический процессор NVIDIA, выбрать подходящую модель и конфигурацию в соответствии с оборудованием и запустить его через интегрированный оптимизированный NVIDIA файл llama.cpp. Поддержка Linux будет запущена позднее. После запуска Hermes может вызывать инструменты, поддерживать контекст между задачами, запоминать информацию из разных сеансов и накапливать навыки многократного использования.
OpenClaw также получает упрощенное решение для развертывания для Windows. В Nvidia заявили, что OpenClaw стал важным проектом в экосистеме открытых агентов искусственного интеллекта, а масштаб проекта на GitHub превысил 380 000 звезд. Новое приложение для Windows снизит порог локальной конфигурации модели, что облегчит пользователям с видеопамятью NVIDIA RTX не менее 24 ГБ запуск локальных помощников искусственного интеллекта.
Чтобы еще больше повысить скорость отклика локального ИИ-агента, NVIDIA также одновременно объявила об оптимизации вывода для llama.cpp и vLLM. За счет новой оптимизации ядра, более совершенного спекулятивного декодирования и более быстрой обработки предварительного заполнения пропускная способность llama.cpp на GeForce RTX 5090 может быть увеличена до 1,9 раза; Производительность vLLM можно улучшить до 1,2 раза на RTX PRO 6000 Blackwell Workstation Edition и до 1,4 раза на кластере, состоящем из двух DGX Sparks. Эти оптимизации уже доступны через соответствующие механизмы вывода, а также доступны в LM Studio и Ollama.
На этот раз компания NVIDIA также сообщила, что в октябре ожидается выпуск новых небольших компьютеров с искусственным интеллектом под управлением Windows, оснащенных платформой RTX Spark. По мере того, как локальное оборудование, ориентированное на ИИ, программное обеспечение для вывода и инструменты ИИ-агентов постепенно совершенствуются, NVIDIA явно продвигает другой способ использования традиционного облачного ИИ: пользователям не нужно отправлять все задачи в удаленные центры обработки данных, но они могут напрямую использовать графические процессоры и другие устройства дома для создания собственной локальной вычислительной среды ИИ.
PAIR все еще находится на стадии бета-тестирования, и проект выпущен с открытым исходным кодом. Разработчики могут просматривать исходный код, сообщать о проблемах и участвовать в улучшениях. NVIDIA надеется, что благодаря PAIR локальный ИИ постепенно перейдет от «одного высокопроизводительного компьютера, на котором работает модель» к «множеству домашних устройств, разделяющих рабочую нагрузку ИИ», и это также может стать новой вычислительной моделью после дальнейшей популяризации локальных агентов ИИ.
Комментарии