После многих лет напряженной работы процессоры на базе архитектуры Arm значительно выросли на рынке серверов, их любят и принимают на вооружение многие клиенты. Поставщики гипермасштабируемых облачных услуг, такие как Amazon Cloud Service (AWS), Alibaba, Microsoft и другие процессоры собственной разработки, предпочитают сотрудничать с Arm. Почему это?
«Ответ очень прост. Работая с Arm, они могут создавать и оптимизировать решения на основе своих собственных сценариев использования и инфраструктуры». Об этом заявил Мохамед Авад, старший вице-президент и генеральный менеджер подразделения инфраструктуры Arm, на ежегодной технологической конференции ArmTechSymposia 2023 года.
Одному из наиболее важных поставщиков чипов искусственного интеллекта, NVIDIA, также нравятся настраиваемые функции серверных процессоров Arm, например, поставщикам сверхкрупных облачных услуг.
Мощный суперчип NVIDIA GH200 содержит 72 ядра ArmNeoverse, в сочетании с графическим процессором NVIDIA производительность искусственного интеллекта GH200 может быть улучшена в 10 раз по сравнению с системами на базе архитектуры x86.
Чтобы удовлетворить индивидуальные потребности большего числа клиентов в области строительства инфраструктуры, у Arm есть еще две важные инициативы.
Почему ArmNeoverseCPU предпочтительнее?
Суперчип-платформа GH200 GraceHopper — продукт, выпущенный NVIDIA в мае этого года. Он предназначен для решения масштабных задач генеративного ИИ. Суперкомпьютер NVIDIA DGX GH200, оснащенный 256 суперчипами GH200, улучшил производительность искусственного интеллекта до удивительного уровня эксафлопс (один миллион триллионов вычислений в секунду).
Ключ к такой высокой производительности ИИ лежит в изменении архитектуры системы.
Традиционная системная архитектура в инфраструктуре
Традиционная архитектура серверной системы,Память подключена к стандартному процессору общего назначения (HostCPU) через PCIe, который отвечает за управление несколькими ускорителями.
«Эта традиционная архитектура была единственной архитектурой, доступной на рынке в прошлом». Мохамед Авад отметил: «Проблема этой архитектуры в том, что часто используются готовые решения.Интерфейс между ЦП и ускорителем напрямую ограничивает конечный уровень производительности продукта.Поскольку все ускорители должны получать доступ к дополнительной памяти через этот готовый ЦП общего назначения, согласованность памяти не может быть достигнута, производительность ускорителя не может быть полностью использована, а требования генеративного ИИ не могут быть хорошо поддержаны. "
Учитывая новые требования приложений, в области инфраструктуры появилась современная системная архитектура.
Суперчип GH200 меняет традиционную архитектуру. Через НВЛинк,Пусть каждый процессор будет подключен к ускорителю независимо, чтобы обеспечить надежную согласованность памяти. Одним из ключевых моментов является настраиваемый процессор.С этой целью, с помощью такой архитектуры, NVIDIA может полностью использовать эффективность графического процессора и максимизировать производительность на основе реальных сценариев и вариантов использования.
«Только поняв конечный вариант использования и спроектировав ЦП в соответствии со сценарием использования, мы сможем добиться большей эффективности и максимальной производительности продукта». Мохамед Авад далее сказал: «NVIDIA и Arm воспользовались гибкостью, обеспечиваемой технологией Arm, для разработки чипов, необходимых для дальнейшей оптимизации системы, в то же время в полной мере используя мощную экосистему программного обеспечения Arm».
Следующий вопрос: станет ли архитектура, предложенная Nvidia, мейнстримом в эпоху генеративного ИИ?
«Пока еще слишком рано судить, станет ли использование CPU в качестве ускорителя основной тенденцией в будущем или единственной тенденцией».Мохамед Авад сказал Leifeng.com: «Мы живем в эпоху ускорения вычислений. В будущей архитектуре, независимо от способа соединения, рядом с любым процессором общего назначения будет ускоритель. Уникальность Arm заключается в том, что он может помочь партнерам создавать индивидуальные процессоры с нуля и в соответствии с их потребностями, а также обеспечить хорошее соединение между процессором и ускорителем».
Поскольку x86 предоставляет стандартный чип ЦП, лучшим выбором для ЦП на платформе суперчипов GH200 является ArmCPU.Это также является ключом к популярности ArmNeoverse.
Другими словами, стандартизированные процессоры не могут удовлетворить индивидуальные потребности инфраструктуры, и кастомизация стала козырной картой Arm на рынке серверов.
Настраиваемость — «убийственный козырь» Arm на рынке серверов
В августе этого года компания Arm запустила вычислительную подсистему Arm Neoverse (CSS), которая позволяет экосистеме Arm создавать специализированные чипы с меньшими затратами, меньшим риском и в более короткие сроки.
Продукт первого поколения ArmCSS, ArmNeoverseCSSN2, интегрирует платформу NeoverseN2, имеет проверенные конфигурации и оптимизированное энергопотребление, производительность и площадь (PPA).
«NeoverseCSS может помочь нашим партнерам еще больше сократить инвестиции, ускорить доступность наших решений для всей экосистемы и ускорить вывод продуктов партнеров на рынок». Сказал Мохамед Авад.
Leifeng.com (публичный аккаунт: Leifeng.com) узнал, что есть клиенты Arm, которые используют NeoverseCSS.Экономьте до 80 человек/год времени инженеров.Есть также клиенты, которые используют NeoverseCSS.От концепции до реализации проекта прошло всего 13 месяцев.
Недавно выпущенный процессор Microsoft Cobalt100CPU также основан на NeoverseCSS.
«У Arm Neoverse много клиентов на китайском рынке, особенно в сфере инфраструктуры, и за последние три-четыре года его развитие было очень сильным». сказал Цзоу Тин, глобальный вице-президент китайского бизнеса Arm. «Arm также активно участвует в местных сообществах по экологии и программному обеспечению с открытым исходным кодом, таких как центры обработки данных и облачные вычисления, включая сообщество Dragon Lizard, чтобы помочь этим сообществам лучше интегрироваться в глобальную экосистему Arm».
Мохамед Авад также подчеркнул, что Китай является одним из очень важных рынков для Arm. Общий объем поставок чипов китайских партнеров на базе архитектуры Arm достиг 30 миллиардов. У Arm около 400 авторизованных клиентов по технологиям в Китае, и это число продолжает расти каждый месяц.
Глобальная экосистема Arm также является ключом к удовлетворению разнообразных потребностей клиентов. На основе NeoverseCSS компания Arm запустила комплексный дизайн (ArmTotalDesign) для дальнейшего объединения возможностей экосистемы, упрощения процесса разработки индивидуальных чипов и упрощения и удобства доставки.
Запуск комплексного проектирования Arm позволяет проектным компаниям ASIC быстро начинать проектные проекты и в любое время предоставлять свои проектные решения требуемым клиентам; Поставщики IP могут предварительно интегрировать, предварительно проверить и предварительно оптимизировать расширенные IP для NeoverseCSS; Партнеры EDA могут беспрепятственно поддерживать самые передовые инструменты и процессы для упрощения проектирования SoC; Разработка коммерческих программно-аппаратных решений может начаться задолго до вывода чипов из ленты; в то же время дизайн NeoverseCSS будет специально оптимизирован, чтобы в полной мере использовать преимущества ведущих узлов процессов.
Очевидно, что в эпоху, когда инфраструктура стремится к дифференциации, ArmNeoverseCSS и комплексный дизайн Arm являются лучшим выбором для удовлетворения различных потребностей на данный момент.
Также обратите внимание, чтоArm превратилась в компанию по производству компьютерных платформ.Сегодня комплексные вычислительные решения Arm (ArmTotalComputeSolutions), платформа ArmNeoverse, вычислительные платформы ArmCorstone и SOAFEE широко используются в мобильной, инфраструктурной, интернет-вещественной, автомобильной и других областях.