Аннотация:
OpenAI утверждает, что ее новый чип «Jalapeno» показал лучшие результаты в тестах, чем текущая линейка продуктов Nvidia, что подчеркивает прогресс, достигнутый компанией в разработке собственных процессоров искусственного интеллекта. Ричард, глава подразделения чипов OpenAI Хо сказал в интервью, что чип сравнивали с Nvidia GB300, тест, который показал, что GB300 является самым передовым доступным продуктом. В тесте Халапеньо имел преимущество по двум показателям: объёму рабочей нагрузки ИИ, которую он может обработать на единицу потребляемой мощности, и скорости реакции.
Когда OpenAI на этот раз публично тестировала Jalapeno, она использовала собственную меньшую модель с открытым исходным кодом GPT‑OSS 120B, а также сторонние модели от DeepSeek и Moonshot AI. На модели Moonshot Kimi K2.5 1T преимущества Халапеньо еще более очевидны.
OpenAI заявила, что во внутренних тестах Jalapeno также показал хорошие результаты при запуске некоторых крупномасштабных продвинутых моделей, которые еще не были выпущены. Это говорит о том, что конструкция чипа «будет еще больше расти в цене» по мере того, как рабочие нагрузки станут больше и сложнее.
OpenAI в сотрудничестве с Broadcom разработала Халапеньо. Компания планирует использовать этот чип для поддержки своих моделей искусственного интеллекта, начиная с конца этого года. Это часть плана компании по созданию собственной инфраструктуры искусственного интеллекта и продвижению самостоятельных исследований чипов в более широком масштабе.
Broadcom производит чипы по индивидуальному заказу для многих клиентов. Обе компании объявили о своем сотрудничестве в прошлом году и активно продвигали скорость разработки этого процессора в июне этого года, заявив, что он разрабатывался с рекордной скоростью.
В настоящее время все больше и больше компаний разрабатывают собственные микросхемы искусственного интеллекта, и NVIDIA по-прежнему доминирует в этой области.
Обычно некоторые чипы обладают большей вычислительной мощностью при выполнении задач искусственного интеллекта, в то время как другие лучше реагируют быстрее, но Халапеньо сочетает в себе лучшее из обоих миров, сказал Хо.
OpenAI будет решать, какие модели искусственного интеллекта будут работать на Jalapeno, позволяя клиентам выбирать более дешевые или более производительные решения в зависимости от их потребностей.
Хо сказал: "В ходе лабораторных испытаний Jalapeno продемонстрировал высокие показатели в области высокой пропускной способности, что означает, что он может обслуживать большое количество клиентов с меньшими затратами; в то же время он также хорошо показал себя в области малой задержки, а это означает, что для клиентов, которые ценят скорость ответа, время его ответа будет очень и очень быстрым". Для центров обработки данных электроэнергия является одной из наиболее важных статей затрат.
Следует отметить, что Jalapeno не тестировался с чипами Nvidia Vera Rubin последнего поколения, поставки которых только начались. Кроме того, Jalapeno не предназначен для обучения моделей ИИ, а обучение — это именно одна из областей, в которых технология NVIDIA работает лучше всего.
Халапеньо в основном ориентирован на этап вывода ИИ, то есть после завершения обучения модели генерирует ответы и выполняет задачи на основе подсказок пользователя. Преимущество в скорости означает, что OpenAI может использовать его для достижения эффектов, которых раньше можно было достичь только с помощью процессоров, использующих разные типы памяти и архитектуры чипов.
OpenAI по-прежнему использует технологию Cerebras для запуска некоторых моделей, и этот тип чипа больше подходит для небольших моделей. Для сравнения, Халапеньо способен обрабатывать гораздо более крупные модели. Хо сказал, что технология OpenAI не заменит таких поставщиков, как Cerebras, в краткосрочной перспективе.
Хо сказал: «Наша потребность в вычислительной мощности очень огромна, поэтому мы подписали контракты с таким большим количеством различных поставщиков. Такая ситуация будет продолжаться некоторое время». Он сказал, что OpenAI надеется публично продемонстрировать результаты своих исследований и разработок для продвижения инноваций в области чипов искусственного интеллекта.
Другие стартапы изучают аналогичные направления. На прошлой неделе Etched заявила, что получила оценку в $21 млрд в ходе раунда финансирования и начала поставки низковольтного чипа. Компания MatX, основанная двумя бывшими сотрудниками Google по производству чипов, в настоящее время разрабатывает полупроводниковый продукт с той же целью — объединить высокую пропускную способность и низкую задержку.
OpenAI также сообщила, что компания использовала собственную модель искусственного интеллекта для ускорения процесса разработки чипов. Чип второго поколения также вступил в стадию более глубоких исследований и разработок. Хо сказал, что компания рассчитывает завершить выпуск чипа «в ближайшие месяцы», когда конструкция чипа войдет в стадию окончательной разработки.
В то же время OpenAI приступила к разработке своих чипов третьего поколения, надеясь еще больше снизить стоимость инфраструктуры искусственного интеллекта, которую она строит в больших масштабах по всему миру. Хо сказал: «Теперь мы достигли уровня затрат и уровня энергопотребления, который может снизить затраты на инфраструктуру. Это только первый шаг».
Хотя OpenAI активно продвигает чипы собственной разработки и сравнивает их производительность с продуктами NVIDIA, Хо все же особо подчеркнул, что OpenAI по-прежнему рассматривает NVIDIA как ключевого поставщика чипов.
"NVIDIA — очень хороший партнер, и нам все еще нужно использовать много чипов NVIDIA".
Комментарии