Аннотация:
Новейший чип Apple A20 Pro демонстрирует свой истинный потенциал в области искусственного интеллекта на устройстве. Последние фактические испытания показывают, что iPhone 18 Pro, оснащенный A20 Pro, может локально запускать большую модель искусственного интеллекта с 27 миллиардами параметров, а скорость ее генерации вдвое выше, чем у iPhone 17 Pro предыдущего поколения, что вызывает новый виток внимания со стороны внешнего мира к локальным возможностям мобильных телефонов с искусственным интеллектом.
Этот тест проводил разработчик Адриен Грондин. В ходе демонстрации на iPhone 18 Pro использовалась модель Bonsai 27B с 27 миллиардами параметров. Не полагаясь на облачные серверы, устройство выполняет задачи вывода непосредственно локально и демонстрирует скорость отклика, значительно превышающую скорость реакции предыдущего поколения продуктов.
Основным фактором, способствующим такому скачку производительности, является новая аппаратная архитектура искусственного интеллекта A20 Pro. В отличие от предыдущих чипов Apple, которые были оснащены только одним набором 16-ядерных механизмов нейронной сети, в A20 Pro впервые используется двойной 16-ядерный механизм нейронной сети, в общей сложности с 32 ядрами обработки нейронной сети. Это также первый случай в истории чипов собственной разработки Apple, использующих архитектуру ядра двойной нейронной сети.
Помимо обновления блока нейронной сети, важной частью повышения производительности является также система памяти. И iPhone 18 Pro, и iPhone 18 Pro Max оснащены 12 ГБ 96-битной памяти LPDDR5X, которая имеет более высокую скорость передачи данных и большую пропускную способность, чем продукты предыдущего поколения.
Результаты испытаний показывают, что при запуске крупномасштабных языковых моделей новый механизм нейронной сети и более быстрая система памяти образуют синергию, что дает A20 Pro явное преимущество в скорости генерации токенов. Для приложений искусственного интеллекта, которые полагаются на локальное мышление, это означает более быстрое время отклика и более плавный интерактивный опыт.
Однако этот прорыв не означает, что на смартфонах уже могут работать все крупные модели без ограничений.
Исследователи отмечают, что, хотя A20 Pro успешно подтолкнул iPhone к эпохе моделей с 27 миллиардами параметров, локальный ИИ по-прежнему ограничен объемом памяти. Например, даже после использования 2-битного сжатия квантования недавно выпущенная модель Bonsai 2 по-прежнему слишком велика и не может быть полностью загружена в локальное пространство памяти iPhone 18 Pro, что приводит к снижению производительности.
Это также отражает практическую проблему текущего развития искусственного интеллекта мобильных телефонов: вычислительная мощность быстро растет, но противоречие между объемом памяти и размером модели все еще существует. Даже если производительность чипа продолжит улучшаться, если саму модель невозможно будет полностью загрузить в память устройства, это все равно повлияет на реальную эффективность работы.
Напротив, Bonsai первого поколения представляет собой 1-битную модель квантования и требует значительно меньших ресурсов. Разработчики утверждают, что модели этого типа могут работать даже на устройствах с объемом памяти всего 4 ГБ и достигать более высокой производительности на платформах с памятью 8 или 12 ГБ.
С точки зрения аппаратных характеристик A20 Pro не только оснащен двойными нейронными сетями, но также имеет унифицированную пропускную способность памяти до 115,2 ГБ/с. Некоторые тесты показывают, что в рабочих нагрузках, оптимизированных для нейронных сетей, пиковая пропускная способность механизма нейронной сети даже превышает пропускную способность 7-ядерного графического процессора внутри чипа.
Этот результат свидетельствует о том, что Apple ускоряет реализацию стратегии искусственного интеллекта на стороне устройства. В отличие от облачных центров обработки данных, локальный ИИ может обеспечить более быстрое время отклика, лучшую защиту конфиденциальности и доступность в автономном режиме — именно на этих направлениях Apple делает упор в последние годы.
Поскольку генеративный искусственный интеллект постепенно становится важной особенностью смартфонов, конкуренция среди производителей мобильных телефонов также смещается от производительности обработки изображений и производительности процессоров к возможностям локального ИИ. Производительность A20 Pro означает, что смартфоны начали иметь возможность запускать миллиарды или даже десятки миллиардов моделей параметров.
Однако, поскольку размеры моделей продолжают расти, объем памяти по-прежнему может стать основным ограничивающим фактором для будущего развития. Аналитики полагают, что если Apple и дальше улучшит конфигурацию памяти iPhone в будущем, ожидается, что способность устройства запускать более масштабные модели искусственного интеллекта будет продолжать улучшаться, а роль мобильных телефонов как независимых вычислительных платформ искусственного интеллекта будет становиться все более важной.
Комментарии