Аннотация:
NVIDIA скорректировала некоторые аппаратные характеристики вычислительной платформы искусственного интеллекта следующего поколения Vera Rubin, в том числе пропускную способность памяти с высокой пропускной способностью HBM4 и пропускную способность высокоскоростного межсоединения NVLink. По сравнению с ранее анонсированными или распространенными показателями новые характеристики ухудшились, но пропускная способность сети горизонтального расширения увеличилась. Это изменение может означать, что Nvidia меняет баланс производительности чипов, возможностей поставок и системных затрат на основе фактического массового производства.
Согласно спецификациям платформы Vera Rubin, объявленным NVIDIA, графический процессор Rubin оснащен 288 ГБ памяти HBM4 и пропускной способностью памяти 19,2 ТБ/с. Ранее технические данные NVIDIA давали максимальный показатель пропускной способности памяти на уровне 22 ТБ/с. По сравнению с этими двумя, объявленная в настоящее время стоимость примерно на 12,7% ниже. Важно отметить, что ранее Nvidia использовала «максимально достижимую» метрику, поэтому она отражает изменения в технических характеристиках и не обязательно означает, что фактическая производительность всех продуктов снизилась одинаково.
HBM4 — это новое поколение технологии памяти с высокой пропускной способностью, которая использует более широкий интерфейс памяти для обеспечения более высокой пропускной способности данных для обучения и вывода моделей искусственного интеллекта. Поскольку размер модели продолжает увеличиваться, графическому процессору не только требуется более высокая вычислительная мощность, но он также должен постоянно получать большое количество параметров модели и промежуточных данных. Если пропускная способность памяти недостаточна, даже если вычислительный блок имеет высокую теоретическую вычислительную мощность, он может не иметь возможности полностью реализовать свою производительность из-за ожидания данных.
Высокая пропускная способность памяти, которую ранее преследовала платформа Rubin, также привела к повышению технических требований к цепочке поставок HBM4. Производителям видеопамяти необходимо соблюдать требования по энергопотреблению, рассеиванию тепла, целостности сигнала и долгосрочной надежности при более высоких скоростях передачи данных. Чем выше спецификация пропускной способности, тем с большими проблемами обычно сталкиваются процессы проверки проекта и массового производства.
Если NVIDIA снизит требования к пропускной способности памяти, диапазон чипов HBM4, соответствующих стандартам продукции, может расшириться, а поставщики также получат возможность увеличить долю выпуска квалифицированной продукции. Это не означает, что производители видеопамяти должны перепроектировать весь набор продуктов, но это может позволить некоторым продуктам, которые не могут достичь предыдущих высоких показателей производительности, но все же отвечают новым требованиям, войти в систему поставок, тем самым улучшая общие возможности поставок.
Помимо пропускной способности памяти, Nvidia также скорректировала спецификацию межсоединения NVLink суперчипа Vera Rubin. Согласно текущей информации о продукте, пропускная способность NVLink суперчипа Vera Rubin была изменена с прежних 7,2 ТБ/с до 6 ТБ/с, что означает снижение примерно на 16,7%. NVLink — это технология NVIDIA для высокоскоростной связи между графическими процессорами. Он играет важную роль в обмене данными, параллельном обучении моделей и сложных задачах вывода искусственного интеллекта в системах с несколькими графическими процессорами.
В крупных кластерах искусственного интеллекта между графическими процессорами необходимо часто обмениваться градиентами, значениями активации и другими промежуточными данными. Связь между различными вычислительными блоками особенно важна для больших моделей с экспертной гибридной архитектурой. Поэтому уменьшение показателя пропускной способности NVLink может повлиять на производительность некоторых ресурсоемких задач, но итоговое влияние все равно зависит от архитектуры модели, метода программного планирования и фактической нагрузки. Общие потери вычислительной мощности невозможно просто рассчитать на основе коэффициента уменьшения полосы пропускания.
В то же время Nvidia увеличила показатели пропускной способности для некоторых горизонтально масштабируемых сетей. Существующие данные показывают, что пропускная способность сети горизонтального расширения суперчипа Vera Rubin увеличилась с прежних 0,8 ТБ/с до 0,9 ТБ/с. Этот тип сети в основном используется для соединения различных вычислительных узлов, позволяя центрам обработки данных организовать большое количество графических процессоров в единый вычислительный кластер. Увеличение пропускной способности сети может помочь улучшить возможности передачи данных между узлами, особенно когда вычислительные задачи необходимо выполнять совместно на разных серверах.
Такое изменение одного вниз и одного вверх отражает компромиссные отношения при проектировании вычислительных платформ искусственного интеллекта: возможности связи внутри графического процессора и внутри шкафа важны, но по мере расширения масштаба кластера межузловая связь также может стать фактором, ограничивающим общую производительность. Nvidia, возможно, перераспределяет бюджет производительности при проектировании систем в зависимости от реальных потребностей приложений.
Однако само по себе изменение спецификации не доказывает, что Nvidia подтвердила дефицит видеопамяти, и само по себе не может доказать, что снижение показателя ведет к увеличению производства. Соответствующие объяснения по-прежнему необходимо оценивать на основе прогресса массового производства поставщика, статуса сертификации продукта и последующей информации, раскрытой Nvidia.
В цепочке поставок HBM4 корректировки спецификаций могут изменить фокус конкуренции между поставщиками. Раньше производителям нужно было стремиться к более высоким скоростям передачи данных; Если Nvidia снизит требования к пропускной способности для продуктов массового производства, конкуренция может стать более ориентированной на производительность, масштаб поставок, энергопотребление, стабильность и стоимость. Поставщики, которые могут поставлять качественную продукцию в больших масштабах, могут в результате получить больше возможностей.
С точки зрения всей платформы Вера Рубин полагается не только на пропускную способность памяти для определения производительности. Вычислительная мощность графического процессора, объем видеопамяти, межкристальное соединение, сетевая архитектура и оптимизация программного обеспечения совместно определяют производительность системы. Официально анонсированная Nvidia конфигурация шкафа Vera Rubin NVL72 содержит 72 графических процессора Rubin и соединяет несколько графических процессоров через NVLink шестого поколения для поддержки крупномасштабных задач обучения искусственному интеллекту и вывода.
Поэтому, даже если некоторые показатели оборудования окажутся ниже первоначальных целевых показателей, Вера Рубин все равно сможет добиться более высокой производительности за счет вычислительной архитектуры, объема видеопамяти и оптимизации на уровне системы. Что действительно заслуживает внимания, так это то, сможет ли Nvidia расширить поставки, как планировалось, после корректировки спецификаций, и соответствует ли фактическое обучение модели и производительность вывода ожиданиям клиентов.
Комментарии