Аннотация:
В феврале этого года Perplexity запустила Perplexity Computer. Это набор инструментов-агентов искусственного интеллекта, похожих на Claude Cowork, которые могут использовать сеть, файлы и приложения на компьютере пользователя для автономного выполнения различных задач. С тех пор на платформе постепенно появилось несколько продуктов, включая персональный компьютер для Mac. Сегодня Perplexity анонсировала новую функцию под названием Hybrid Compute.
Гибридные вычисления позволяют пользователям разделить задачу между передовой облачной моделью и локальной моделью большого языка для совместной обработки. Облачная модель может представлять собой высокопроизводительную модель, например Opus 5 или GPT-5.6 Sol, а локальная модель работает на собственном компьютере пользователя. Основная идея состоит в том, чтобы позволить локальной модели обрабатывать конфиденциальную информацию, гарантируя, что соответствующие данные всегда будут надежно храниться на устройстве.
В компании Perplexity заявили, что гибридные вычисления подходят для самых разных сценариев. Например, юрист может использовать его для написания юридического заключения, сравнивающего текущее дело с существующим прецедентом. В этом процессе данные клиентов можно сохранять локально и избежать загрузки в облако. Для пользователей, желающих контролировать расходы, гибридные вычисления также могут перенести часть работы с обычно более дорогих передовых моделей на локальные модели, чтобы сократить затраты на логические выводы.
"Эта функция интегрирована непосредственно в приложение Mac. Каждый раз, когда вы пытаетесь загрузить файл или отправить сообщение, система автоматически проверяет, содержит ли он конфиденциальный контент, и подтверждает, готовы ли вы поделиться этими данными в облаке". — сказал Джон Стафф, руководитель отдела продуктов Perplexity Mac. В рамках запуска Perplexity также подготовила новый классификатор конфиденциальности, который может автоматически рекомендовать файлы и информацию, которые пользователи должны хранить локально на своих компьютерах.
Прежде чем гибридные вычисления начнут распределять задачи по различным моделям, пользователи могут сначала просмотреть файлы, которые система готовится изолировать и хранить локально, чтобы убедиться, что она не пропустила важный контент. На этом этапе пользователь также может решить, какие модели выполнят задачу.
В настоящее время локальные модели включают Gemma E4B и две версии модели Qwen 3.6, обе с 35 миллиардами параметров. Одна версия была подвергнута постобучению Perplexity. Компания заявляет, что в будущем будет доступно больше местных моделей. Независимо от того, какую модель выберет пользователь, процесс установки не требует открытия терминала Mac, приложение Perplexity позаботится о завершении установки.
Во время работы системы пользователи могут видеть визуальную информацию об использовании локального процессора, графического процессора и памяти. На боковой панели рядом с ним будет отображаться количество токенов, использованных задачей. С пользователей, использующих токены, сгенерированные локальными моделями, на своих компьютерах комиссия не взимается. После того, как система сформирует результаты, пользователь может продолжить вводить последующие инструкции как обычно или добавить задачу в очередь через iPhone.
Отвечая на вопрос, сравнивала ли Perplexity результаты, полученные с помощью гибридных вычислений, с системой, полностью полагающейся на облако, Стафф ответил: «Короче говоря, если вы просто посмотрите на качество исходного продукта, результат полного использования передовой модели почти всегда лучше. Она стоит дороже, но у нее больше возможностей».
Однако сотрудники добавили, что не всем пользователям нужны самые передовые и мощные модели искусственного интеллекта для выполнения своей работы. В таких случаях конфиденциальность данных и стоимость могут быть более важными, чем возможности модели.
"Я думаю, что это должна быть настраиваемая шкала. Для конкретной работы, которую хочет выполнить пользователь, мы хотим, чтобы пользователь сам решал, где он находится на этой шкале. Очевидно, мы постараемся порекомендовать наиболее подходящее решение, исходя из имеющегося у нас контекста, но в конечном итоге пользователь все равно должен решить, какое решение лучше всего соответствует его потребностям". Персонал сказал.
В настоящее время гибридные вычисления доступны только для компьютеров Mac, оснащенных чипами Apple Silicon и работающих под управлением macOS 15. Perplexity рекомендует устройства с объемом объединенной памяти не менее 32 ГБ. Эта функция доступна подписчикам Pro и Max, а также корпоративным клиентам Perplexity.
Комментарии