Аннотация:
Недавно Qualcomm объявила дополнительную информацию о возможностях обработки искусственного интеллекта Snapdragon 8 Elite Gen 6 Pro, наиболее примечательной из которых является обновление нового процессора Hexagon NPU. В отличие от простого стремления к росту вычислительной мощности ИИ в прошлом, Qualcomm на этот раз уделяет больше внимания эффективности работы моделей ИИ, доступу к памяти и контролю энергопотребления, надеясь позволить следующему поколению флагманских мобильных телефонов запускать крупномасштабные генеративные модели ИИ и агенты ИИ локально.
В Qualcomm заявили, что по мере того, как генеративный искусственный интеллект постепенно становится важной функцией смартфонов, сами модели искусственного интеллекта продолжают становиться больше и сложнее. Для мобильных устройств настоящим узким местом является не просто вычислительная мощность, а то, как эффективно обрабатывать эти модели при ограниченном энергопотреблении и пропускной способности памяти. Поэтому NPU Snapdragon 8 Elite Gen 6 Pro был переработан во многих аспектах.
Одним из важных обновлений является новый ускоритель элементов. Этот специальный блок аппаратного ускорения оптимизирован для конкретных операций в вычислениях ИИ, что может повысить эффективность NPU при выполнении соответствующих рабочих нагрузок. По сравнению с простым увеличением пиковой вычислительной мощности NPU, эта специализированная конструкция позволяет чипу выполнять конкретные задачи искусственного интеллекта с меньшими ресурсами, тем самым снижая потребление энергии в вычислительном процессе.
Новое поколение Hexagon NPU также имеет больший объем общей памяти. Qualcomm заявила, что емкость ее большой общей памяти увеличилась на 50% по сравнению с предыдущим поколением. Эта часть высокоскоростной общей памяти позволяет NPU более удобно сохранять данные, необходимые во время работы модели ИИ, тем самым снижая необходимость частого доступа к системной памяти.
Это изменение особенно важно для больших языковых моделей. При использовании генеративного ИИ моделям необходимо постоянно обрабатывать большие объемы контекстных данных, некоторые из которых должны сохраняться во время вывода. Если эти данные часто передаются между NPU и системной памятью, это приведет к увеличению задержки и потреблению большего количества энергии. Добавляя высокоскоростную общую память, которую можно использовать непосредственно внутри NPU, Qualcomm надеется максимально сократить обработку данных.
Одним из объектов, который получил значительные преимущества, является KV Cache. Поскольку пользователи все дольше и дольше общаются с помощниками искусственного интеллекта, моделям необходимо сохранять все больше и больше контекстной информации. Размер KV-кэша также соответственно увеличится, и он часто становится важной нагрузкой на память при локальном запуске больших моделей. Больший объем общей памяти позволяет хранить более важные данные ближе к вычислительному блоку, тем самым повышая эффективность вывода ИИ.
Qualcomm считает, что эта возможность особенно важна для агентов искусственного интеллекта. По сравнению с традиционным ИИ, использующим вопросы и ответы, агентам ИИ необходимо непрерывно выполнять несколько шагов, таких как понимание потребностей пользователей, формулирование планов выполнения, вызов различных инструментов, анализ возвращаемых результатов, а затем переходить к следующему шагу. На протяжении всего процесса необходимо постоянно сохранять состояние и контекст модели, поэтому сокращение доступа к памяти может помочь уменьшить задержку и обеспечить более плавное выполнение сложных задач ИИ.
Усовершенствования NPU компании Qualcomm также означают, что, когда в будущем мобильные телефоны будут использовать искусственный интеллект, им не обязательно будет просто полагаться на увеличение системной оперативной памяти для решения проблемы. Поскольку местные модели искусственного интеллекта становятся все больше и больше, производители мобильных телефонов в последние годы продолжают увеличивать объем памяти своих флагманских продуктов. Однако увеличение оперативной памяти не только увеличит затраты на оборудование, но также увеличит энергопотребление и нагрузку на поставку памяти. Qualcomm пытается решить эту проблему на архитектурном уровне, помещая больше данных в высокоскоростную общую память внутри чипа.
Помимо NPU, процессор и графический процессор Snapdragon 8 Elite Gen 6 Pro также были значительно обновлены. Ранее Qualcomm сообщила, что флагманская платформа нового поколения будет иметь частоту процессора до 5 ГГц. Если эта спецификация наконец будет реализована согласно озвученной сейчас информации, она станет весьма символичным узлом в мобильных процессорах, ведь самая высокая частота процессоров смартфонов официально вступит в эру 5 ГГц.
Qualcomm также представила технологию FlexCache для процессоров. Основная идея также состоит в том, чтобы уменьшить зависимость процессора от внешней системной памяти и сделать более гибким использование внутреннего кэша чипа, чтобы процессор мог более эффективно получать данные. Для современных мобильных процессоров эффективность доступа к данным между кэшем и памятью становится все более важной, поэтому такая конструкция может в определенной степени улучшить баланс между производительностью и энергоэффективностью.
Графические процессоры также претерпели значительные архитектурные изменения. Qualcomm описывает новое поколение графических процессоров Adreno как очень важное архитектурное обновление, которое не только улучшает производительность традиционной графики, но и еще больше расширяет возможности графического процессора выполнять задачи искусственного интеллекта.
Одним из важных изменений является добавление матричных ядер Adreno, которые предназначены для матричных вычислений. Матричные операции являются важным типом вычислений в современных моделях искусственного интеллекта, поэтому выделенные матричные ядра могут помочь графическим процессорам более эффективно выполнять работу, связанную с искусственным интеллектом.
Это означает, что будущие флагманские платформы Snapdragon не будут передавать все вычисления искусственного интеллекта NPU. В зависимости от конкретных задач CPU, GPU и NPU могут выполнять разные типы работы, образуя тем самым более очевидную гетерогенную вычислительную систему. В играх графический процессор может выполнять часть вычислений ИИ, одновременно выполняя традиционный рендеринг графики; в то время как для таких рабочих нагрузок, как генеративный искусственный интеллект, NPU может играть более важную роль.
Qualcomm также запустила технологию Adreno Neural Fusion, призванную еще больше усилить сочетание искусственного интеллекта и графического рендеринга. Эта технология может использовать алгоритмы искусственного интеллекта для улучшения визуальных эффектов игровых экранов и достижения более продвинутых эффектов обработки графики при одновременном контроле энергопотребления.
Этот дизайн особенно подходит для графических технологий искусственного интеллекта, которые быстро развивались в последние годы, таких как суперразрешение и генерация кадров. Разрешение и сложность изображения в мобильных играх продолжают расти. Если все изображения будут использовать традиционные методы встроенного рендеринга, нагрузка на графический процессор и энергопотребление быстро возрастут. Использование искусственного интеллекта для генерации части информации об изображении позволяет добиться более высокого качества конечного изображения при меньших затратах на рендеринг.
С точки зрения общей архитектуры, обновление ИИ Snapdragon 8 Elite Gen 6 Pro направлено не просто на то, чтобы сделать NPU быстрее, но и на попытку перепроектировать метод обработки данных внутри всей SoC. NPU имеет больший объем общей памяти и выделенные ускорители. ЦП снижает зависимость от системной памяти благодаря FlexCache, а графический процессор добавляет специализированные возможности матричных вычислений и участвует в обработке графики с помощью технологии искусственного интеллекта.
Это изменение отражает переход мобильных чипов на новый этап. Раньше при измерении производительности флагманских SoC люди в основном ориентировались на показатели работы процессоров и графических процессоров, но теперь рабочая нагрузка искусственного интеллекта стала важным фактором, определяющим фактическую работу чипа. Для следующего поколения мобильных телефонов действительно важно не только то, насколько высокой может быть пиковая вычислительная мощность чипа, но и то, сможет ли он запускать модели искусственного интеллекта в течение длительного времени при ограниченном энергопотреблении и сможет ли он эффективно контролировать перемещение данных между различными вычислительными блоками и памятью.
Особый акцент Qualcomm на разделяемую память и сокращение доступа к памяти также показывает, что конкуренция чипов в эпоху искусственного интеллекта постепенно переходит от простой «войны за вычислительную мощность» к «войне за эффективность передачи данных». Для больших моделей ИИ важен сам расчет, но то, как своевременно отправить параметры модели, контекст и промежуточные результаты в правильный вычислительный блок, также напрямую повлияет на конечную производительность и энергопотребление.
Поэтому, что действительно примечательно в Snapdragon 8 Elite Gen 6 Pro, возможно, не то, насколько улучшена индивидуальная производительность искусственного интеллекта, а то, что Qualcomm пытается позволить мобильным телефонам решать все более сложные задачи искусственного интеллекта локально за счет более тесного сотрудничества между NPU, CPU, GPU, кэшем и общей памятью.
Поскольку ИИ-помощники, ИИ-агенты, генеративные приложения и игровые функции ИИ постепенно становятся важной частью флагманских мобильных телефонов, эта архитектурная идея также может стать важным направлением для развития мобильных SoC в будущем. Ожидается, что по сравнению с постоянно увеличивающейся оперативной памятью системы обработка постоянно расширяющихся моделей искусственного интеллекта с помощью более эффективных механизмов обработки данных и кэширования внутри чипа позволит достичь более разумного баланса между производительностью, энергопотреблением и стоимостью.
Сможет ли Snapdragon 8 Elite Gen 6 Pro в конечном итоге достичь этих технических целей, необходимо будет проверить путем полного тестирования после запуска фактического устройства. Однако, судя по опубликованной на данный момент информации, цель обновления флагманской платформы Qualcomm этого поколения очень ясна: не только ускорить вычисления ИИ, но и сделать вычисления ИИ более эффективными, а также минимизировать затраты на память и энергопотребление мобильных телефонов для запуска локального ИИ.
Комментарии