Аннотация:
Во время презентации на IPO компания Anthropic сообщила, что использует Claude Mythos Preview для адаптации ускорителей искусственного интеллекта AMD. Компания сообщила, что Claude AI потребовалось всего 3 дня, чтобы внутренняя модель выполнила оперативную обработку текста на AMD MI355X и достигла приемлемого уровня производительности.
Клод портировал или написал почти весь код ядра графического процессора с минимальным вмешательством человека. Этот случай вызвал дискуссии об экосистеме программного обеспечения CUDA NVIDIA и конкуренции с чипами искусственного интеллекта. CUDA — это ров NVIDIA, но еще неизвестно, как долго этот ров сможет продержаться в эпоху искусственного интеллекта.
Когда модели ИИ работают на разных архитектурах чипов, им необходимо адаптироваться к базовому вычислительному коду, программному стеку и аппаратным функциям. Для достижения практической производительности инженеры часто также оптимизируют матричные операции, доступ к памяти и многокристальную связь.
Одна из компаний сообщила, что, исходя из прошлого опыта компании, использование традиционных методов проектирования для интеграции новых платформ чипов обычно занимает у десятков инженеров несколько месяцев (фактически от 6 до 12 месяцев), но с участием ИИ этот процесс можно сократить всего до 3 дней.
Система CUDA от Nvidia, объединяющая большое количество инструментов разработки, вычислительных библиотек и программного обеспечения, оптимизированного для графических процессоров, уже давно стала важной основой для разработки ИИ, поскольку адаптация кода, изначально оптимизированного для конкретного оборудования, на другие чипы требует инвестиций большого количества инженерных ресурсов.
После того, как ИИ примет участие в трансплантации базового кода, он может помочь инженерам быстрее писать и настраивать ядра графических процессоров, а затраты и время для предприятий на доступ к различным платформам чипов смогут снизиться. На данном этапе чипы, фактически адаптированные компанией А, включают, помимо прочего, NVIDIA, AMD, Google TPU и Amazon Trainium.
AMD и Anthropic ранее объявили, что развернут вычислительную мощность графического процессора мощностью до 2 ГВт на базе серии AMD MI450. Первое развертывание мощности 1 ГВт планируется начать в первой половине 2027 года. Обе стороны также будут использовать Claude для оптимизации рабочих нагрузок графических процессоров AMD и ускорения разработки программного обеспечения ROCm.
Комментарии