Под влиянием высоких цен на память и продолжающейся напряженной ситуации в цепочке поставок NVIDIA планирует значительно сократить конфигурацию памяти своей системы искусственного интеллекта (ИИ) следующего поколения Vera Rubin NV72 (особенно VR200 NVL72) на уровне шкафа.
Согласно последнему аналитическому отчету, опубликованному GF Securities, этот шаг направлен на то, чтобы справиться с ценовым давлением, вызванным резким ростом цен на ключевые компоненты, такие как память с высокой пропускной способностью (HBM4) и LPDDR5X. Ранее, хотя NVIDIA подписала долгосрочные соглашения о поставках до того, как в отрасли возникла массовая нехватка памяти, которая лучше выдерживала влияние дисбаланса спроса и предложения, растущая стоимость компонентов по-прежнему вынуждала компанию вносить коррективы в спецификации.
Шкаф Vera Rubin NVL72 от Nvidia считается одной из самых мощных систем искусственного интеллекта в мире. Система была впервые анонсирована публике в январе этого года и впоследствии продемонстрировала потрясающую вычислительную производительность в тестовых данных, опубликованных поставщиком облачных услуг CoreWeave. При рабочих нагрузках смешанной экспертной модели (MoE) система предыдущего поколения с использованием графического процессора Blackwell AI могла достичь пропускной способности 80 000 токенов в секунду при потребляемой мощности 150 мегаватт, в то время как новая платформа VR200 NVL72 Vera Rubin напрямую увеличивает это число в 10 раз, достигая 800 000 токенов в секунду.
Однако чрезвычайно высокая производительность также требует дорогостоящих затрат на оборудование. Инвестиционно-исследовательский институт Bernstein ранее опубликовал отчет, в котором говорилось, что из-за роста цен на память фактическая стоимость одного шкафа NVL72 Rubin может достигать 9,1 миллиона долларов США, что намного превышает предыдущую отраслевую оценку в 7,8 миллиона долларов США, основанную на ранних котировках памяти. Бернштейн также прогнозирует, что цена на память HBM4 следующего поколения может вырасти до 53 долларов за ГБ к 2027 году.
В аналитическом отчете GF Securities отмечается, что NVIDIA активно реагирует на проблемы, снижая спецификации, столкнувшись с узкими местами в поставках и высокими затратами на рынке памяти. В корпусе VR200 NVL72 NVIDIA планирует сократить стандартную спецификацию SOCAMM (модуль памяти малого давления) вдвое, с исходного модуля емкостью 192 ГБ до модуля емкостью 96 ГБ, чтобы снизить нагрузку на цепочку поставок LPDDR5X. Кроме того, общий объем памяти процессора Vera будет значительно уменьшен с первоначально запланированных 54 ТБ до 55 ТБ примерно до 28 ТБ, и каждый процессор также будет использовать модуль SOCAMM емкостью 96 ГБ. Что касается графического процессора, каждый шкаф по-прежнему будет использовать 20,7 ТБ памяти HBM4 с высокой пропускной способностью.
С финансовой точки зрения сокращение размеров позволит значительно сократить спецификацию компонентов системы. GF Securities заявила, что если объем памяти LPDDR5X сократится вдвое, стоимость LPDDR5X, связанного с VR200, может быть снижена с первоначальной оценки в 1,2 миллиона долларов США до 586 000 долларов США; если мощность еще больше снизится до четверти первоначальной, стоимость может даже снизиться до 293 000 долларов США. Согласно анализу, если не внести вышеуказанные изменения в спецификацию, стоимость памяти вырастет до 29% (приблизительно 2,1 миллиона долларов США) от общей стоимости материалов системы VR200, что намного превышает идеальный уровень Nvidia по контролю затрат на память в пределах 20%. Ожидается, что благодаря этой гибкой и оптимизированной конфигурации NVIDIA сохранит преимущество высокой вычислительной мощности, одновременно контролируя общую стоимость шкафа в разумных пределах.