Аннотация:
Microsoft официально анонсировала чип искусственного интеллекта третьего поколения Maia 300 собственной разработки и планирует развернуть его в производственной среде, начиная с 2027 года, для поддержки задач искусственного интеллекта, лежащих в основе таких продуктов и услуг, как Copilot. Microsoft заявила, что по сравнению с нынешней ведущей системой графических процессоров Maia 300, как ожидается, сможет обрабатывать на 40% больше токенов на мегаватт мощности; в полной конфигурации стойки, состоящей из 96 ускорителей, пропускная способность токена на уровне стойки может быть до 7 раз выше, чем у Maia 200 предыдущего поколения.
Этот выпуск знаменует собой дальнейшие инвестиции Microsoft в собственные разработки чипов искусственного интеллекта. Поскольку использование услуг искусственного интеллекта продолжает расти, Microsoft надеется снизить эксплуатационные расходы, повысить энергоэффективность и уменьшить зависимость от графических процессоров таких поставщиков, как Nvidia и AMD, с помощью ускорителей собственной разработки.
Скотт Гатри, исполнительный вице-президент подразделения облачных вычислений Microsoft, заявил, что компания планирует расширить масштаб развертывания чипов серии Azure Maia до уровня в несколько гигаватт, начиная с 2027 года, и сделать их основной системой вывода искусственного интеллекта для продуктов и услуг Microsoft.
Эта цель означает, что Microsoft надеется постепенно модернизировать чипы собственной разработки из части существующей инфраструктуры в базовую вычислительную платформу, поддерживающую собственные сервисы искусственного интеллекта. Однако это не означает, что Microsoft полностью прекратит закупки графических процессоров у Nvidia или AMD. Microsoft, вероятно, продолжит использовать несколько аппаратных платформ для задач обучения и вывода, требующих разных вычислительных возможностей.
Maia 300 — это продукт третьего поколения серии Maia от Microsoft, а также чип следующего поколения, выпущенный после анонса Maia 200 в январе этого года. Maia 200 в настоящее время используется для рабочих нагрузок искусственного интеллекта в различных производственных средах Microsoft, включая Microsoft Copilot, GitHub Copilot, Microsoft Foundry и модели искусственного интеллекта собственной разработки Microsoft.
Гатри заявил, что, судя по показателям работы реальных служб искусственного интеллекта, Maia 200 уже является одной из самых эффективных инфраструктур искусственного интеллекта в Microsoft. Maia 300 нового поколения специально разработана для постоянно меняющихся рабочих нагрузок ИИ, особенно тех, которые требуют обработки рассуждений в длинном контексте, разговоров в реальном времени, которые очень чувствительны к задержкам, и задач агента ИИ, которые непрерывно выполняют несколько шагов.
Эти приложения предъявляют иные требования к оборудованию, чем традиционные методы вывода ИИ.
Поскольку крупномасштабные языковые модели постепенно используются в помощниках по программированию, автоматизации предприятий и выполнении сложных задач, контекст, который необходимо обрабатывать системам искусственного интеллекта, становится все длиннее и длиннее, а одна задача включает в себя все больше и больше вызовов моделей и инструментальных операций. Для поставщиков облачных услуг помимо производительности самой модели также необходимо учитывать задержку ответа, количество одновременных запросов, объем памяти и фактическую стоимость каждого вывода.
Поэтому при разработке Maia 300 основное внимание уделялось не только увеличению пиковой вычислительной мощности, но и повышению общей эффективности в непрерывно работающей реальной бизнес-среде. Microsoft надеется специально оптимизировать архитектуру чипа, чтобы сделать ее более подходящей для обработки вычислительной нагрузки, создаваемой моделями вывода нового поколения и агентами искусственного интеллекта.
Что касается производства чипов, Maia 300 использует передовой процесс N2P TSMC и представляет архитектуру проектирования на основе ядра. По сравнению с традиционными конструкциями, которые объединяют различные функции в одном большом чипе, архитектура ядра чипа может разделить такие функции, как вычисления, контроллер памяти, ввод и вывод, на разные модули, а затем спроектировать их в соответствии с их соответствующими характеристиками.
Команда Microsoft Azure по оборудованию и инфраструктуре заявила, что такая конструкция позволяет использовать больше площади кристалла для повышения производительности вычислений, одновременно позволяя различным функциональным модулям применять технологии, которые больше подходят для их собственных нужд.
Эта идея имеет практическое значение. Для ускорителей искусственного интеллекта важен вычислительный блок, но то, как данные передаются между вычислительным блоком, памятью и внешними устройствами, также будет влиять на общую производительность. Если вычислительному блоку необходимо дождаться поступления данных, даже если он обладает высокой теоретической вычислительной мощностью, он не сможет полностью реализовать свою производительность.
За счет оптимизации вычислений, управления памятью, а также функций ввода и вывода по отдельности Microsoft надеется повысить общую эффективность использования ресурсов чипа и добиться лучшего баланса между производительностью, энергопотреблением и производственными затратами.
Использование передовых процессов также поможет повысить плотность транзисторов и энергоэффективность, но конечная производительность чипа по-прежнему зависит от множества факторов, таких как микроархитектура, подсистема памяти, конструкция межсоединений и оптимизация программного обеспечения. Данные о производительности, опубликованные Maia 300, в настоящее время в основном взяты из собственной разработки Microsoft, а фактический эффект еще необходимо оценить на основе различных моделей, рабочих нагрузок и условий развертывания.
В области рассуждений об искусственном интеллекте пропускная способность токенов является одним из важных показателей для измерения эффективности системы. Токен — это базовая единица данных, используемая большими языковыми моделями при обработке текста, обычно соответствующая слову, фрагменту слова или другой текстовой единице. Сколько токенов система может обработать в единицу времени, напрямую влияет на количество пользователей, которые она обслуживает одновременно, и вычислительные ресурсы, необходимые для выполнения задачи.
Microsoft ожидает, что Maia 300 будет обрабатывать на 40 % больше токенов на мегаватт, чем ведущие системы с графическим процессором. Это означает, что при том же бюджете мощности Microsoft должна обрабатывать больше запросов ИИ или снижать энергопотребление, обеспечивая при этом те же возможности обслуживания.
Для поставщиков облачных услуг с крупными центрами обработки данных такое повышение эффективности может принести значительную экономическую выгоду. Центрам обработки данных искусственного интеллекта необходимо не только приобретать дорогие ускорители, но и нести расходы на электропитание, охлаждение, сетевое оборудование и строительство инфраструктуры. Поскольку использование моделей продолжает расти, электропитание и мощность центров обработки данных становятся важными факторами, ограничивающими расширение услуг искусственного интеллекта.
Однако эффективность токена на мегаватт — не единственный показатель для измерения ИИ-чипов. Масштаб параметров, длина контекста, настройки точности и методы вывода различных моделей будут влиять на результаты теста. Чтобы всесторонне сравнить такие продукты, как Maia 300 и графические процессоры NVIDIA, необходимо также учитывать задержку, совместимость моделей, экосистему программного обеспечения, затраты на развертывание и стабильность в реальном бизнесе.
Microsoft также объявила о более привлекательном показателе: в полной конфигурации стойки, состоящей из 96 ускорителей, пропускная способность токенов Maia 300 на уровне стойки может в 7 раз превышать пропускную способность Maia 200.
На этом рисунке видно, что Microsoft не только надеется повысить эффективность одного чипа, но и оптимизирует вычислительную мощность всей стойки. Но оно описывает пропускную способность на уровне стойки в конкретной конфигурации. Это не означает, что Maia 300 в 7 раз быстрее Maia 200 во всех задачах, и нельзя напрямую сделать вывод, что производительность каждого чипа улучшилась в одинаковой пропорции.
Для платформ облачных вычислений особенно важна производительность на уровне стойки. Реальные системы обычно состоят из большого количества ускорителей, при этом чипы обмениваются данными через высокоскоростные соединения и совместно обрабатывают запросы моделей. Даже если один чип является мощным, вся система все равно может быть ограничена, если пропускная способность межсоединений, объем памяти или эффективность планирования недостаточны.
Поэтому Microsoft пытается провести общую оптимизацию — от конструкции чипа, конфигурации стойки до программного обеспечения и модели операционной среды, а не просто гоняться за теоретической вычислительной мощностью процессора.
Руководитель Microsoft AI Мустафа Сулейман заявил, что компания должна начать инвестировать с самых низов всего технологического стека, включая разработку чипов. Он считает, что, когда услуги искусственного интеллекта достигнут таких огромных масштабов, Microsoft должна иметь собственную платформу и позволить совместно разрабатывать и оптимизировать чипы и самостоятельно разрабатываемые модели.
Он особо подчеркнул, что возможность запуска моделей искусственного интеллекта, разработанных Microsoft, на чипах Maia, является важной задачей для команды Microsoft по искусственному интеллекту.
Это заявление раскрывает еще одну цель разработки чипов собственной разработки Microsoft: объединить аппаратное обеспечение, модели и облачные сервисы для формирования более тесного сотрудничества.
Традиционные поставщики облачных услуг могут развертывать модели искусственного интеллекта, приобретая графические процессоры общего назначения, но если они смогут разработать свои собственные ускорители, они смогут оптимизировать вычислительные характеристики, требования к памяти и процессы вывода своих собственных моделей. В свою очередь, команда модели может корректировать структуру модели и метод работы в соответствии с архитектурой чипа, тем самым повышая общую эффективность.
Google и Amazon уже много лет инвестируют в собственные разработки чипов искусственного интеллекта. У Google есть серия ускорителей TPU, а Amazon разработала такие чипы, как Trainium, для поддержки собственных облачных вычислений и сервисов искусственного интеллекта. Microsoft запустила серию Maia, чтобы усилить свои инфраструктурные возможности в условиях конкурентной борьбы.
Для Microsoft стратегическая ценность чипов собственной разработки заключается не только в сокращении затрат на закупки, но и в повышении автономности цепочки поставок, оптимизации использования энергии в центрах обработки данных и повышении контроля над проектированием оборудования при быстром обновлении моделей и услуг ИИ.
В настоящее время Microsoft по-прежнему поддерживает тесное сотрудничество с NVIDIA, а графические процессоры NVIDIA продолжают играть важную роль в области обучения и вывода ИИ. Одновременная разработка Microsoft серии Maia не означает, что отношения между двумя сторонами неизбежно фундаментально изменятся, но это отражает то, что крупные поставщики облачных услуг снижают свою зависимость от единой аппаратной платформы за счет собственной разработки чипов и стратегий работы с несколькими поставщиками.
Microsoft также надеется использовать чипы собственной разработки для повышения конкурентоспособности своих моделей искусственного интеллекта. Сулейман сказал, что платформа Maia является важной частью технологической системы искусственного интеллекта Microsoft и может помочь компании в дальнейшем развитии собственных моделей и повышении ее конкурентоспособности по сравнению с такими конкурентами, как Google DeepMind, OpenAI и Anthropic.
По мере того, как модели искусственного интеллекта постепенно превращаются из простых инструментов генерации текста в агентские системы, которые могут вызывать инструменты и выполнять сложные операции, важность аппаратной инфраструктуры также возрастает. Рассуждения в длинном контексте и многоэтапное выполнение задач часто требуют более длительных вычислительных процессов и большого количества вызовов моделей. Только достигнув лучшего баланса между производительностью, задержкой и стоимостью, предприятия смогут масштабировать свои услуги устойчивым образом.
Maia 300 разработана с учетом этой тенденции. Microsoft надеется обеспечить выполнение большего количества задач ИИ с меньшими затратами за счет повышения пропускной способности и энергоэффективности, а также предоставления вычислительной поддержки для Copilot, GitHub Copilot и будущих служб агентов ИИ.
Однако, чтобы Maia 300 действительно стала главной силой ИИ-инфраструктуры Microsoft, ей еще необходимо пройти путь от производства чипов, системной интеграции до крупномасштабного развертывания. Microsoft планирует начать запуск его в производство в 2027 году и постепенно расширять масштабы развертывания. К тому времени фактическая производственная мощность чипа, стабильность системы, адаптация программного обеспечения и интеграция с существующими центрами обработки данных - все это будет влиять на его конечную сферу применения.
В целом, запуск Maia 300 показывает, что Microsoft превращает чипы искусственного интеллекта из проектов вспомогательной инфраструктуры в ключевой компонент своей собственной стратегии искусственного интеллекта. Используя передовые процессы TSMC, детальную структуру ядра и оптимизацию на уровне системы для рабочих нагрузок вывода, Microsoft надеется улучшить возможности сервисов искусственного интеллекта, которые она может предоставить на единицу электроэнергии, и снизить свою зависимость от внешних поставщиков графических процессоров.
Если Microsoft сможет расширить производственное развертывание Maia 300, как запланировано в 2027 году, и добиться ожидаемого повышения эффективности в реальном бизнесе, ожидается, что эта серия чипов станет для нее важным инструментом для контроля затрат на вычисления с использованием искусственного интеллекта и расширения масштаба обслуживания. Но ее долгосрочная конкурентоспособность в конечном итоге зависит от реальных операционных показателей и от того, сможет ли Microsoft создать устойчивую и эффективную совместную систему оптимизации оборудования, моделей и программного обеспечения.
Комментарии