Аннотация:
Anthropic заявила, что ее последняя модель искусственного интеллекта Claude Mythos Preview значительно сократила время разработки программного обеспечения, необходимое для развертывания моделей искусственного интеллекта на платформах AMD GPU. По данным компании, раньше эта работа обычно занимала от 6 до 12 месяцев и требовала участия десятков инженеров, но Claude Mythos может выполнить критически важную работу по адаптации программного обеспечения примерно за три дня практически без ручного вмешательства. Это развитие может ослабить конкурентные барьеры, которые Nvidia уже давно установила на основе экосистемы программного обеспечения CUDA.

Соучредитель и директор по вычислительной технике Anthropic Том Браун представил результаты инвесторам во время презентации компании на IPO. Он сказал, что Claude Mythos может автоматически портировать или писать почти 100% кода ядра графического процессора, что позволяет моделям Claude работать на ускорителе AMD Instinct MI355X. Раньше подобные работы по адаптации оборудования зачастую требовали участия команды из десятков инженеров и занимали несколько месяцев.
Однако три дня, раскрытые Anthropic, имеют четкую сферу применения, что не означает, что весь процесс развертывания модели, проверки производственной среды и оптимизации производительности можно завершить в течение трех дней. В сноске к материалам роуд-шоу отмечается, что это достижение специально нацелено на то, чтобы модель Anthropic выполнила задачу быстрой обработки текста (Prefill) на графическом процессоре AMD MI355X и достигла уровня производительности, имеющего практическое значение. Anthropic не уточнил, включен ли также этап ответа на создание модели (декодирование).
Ядро графического процессора является важным связующим звеном между программным обеспечением искусственного интеллекта и базовым оборудованием. Он отвечает за преобразование задач расчета модели в инструкции, которые могут эффективно выполняться на конкретном процессоре. Существуют различия в архитектуре графического процессора, системах памяти и вычислительных блоках разных производителей, поэтому для одной и той же модели ИИ часто приходится писать или корректировать базовый код для разных аппаратных платформ. Этот тип работы уже давно является важным источником преимуществ для экосистемы NVIDIA CUDA.
Платформа CUDA NVIDIA разрабатывалась уже почти 20 лет и имеет зрелые компиляторы, инструменты разработки, библиотеки оптимизации и большое сообщество разработчиков. AMD имеет собственную программную платформу ROCm и поддерживает соответствующие вычислительные задачи через уровень программирования HIP. Чтобы помочь разработчикам перенести код CUDA на платформу AMD, компания AMD ранее запустила инструмент HIPify. Однако преобразование кода не означает, что все программы могут напрямую достичь идеальной производительности. Разработчикам обычно все равно приходится много заниматься отладкой и оптимизацией.
Развитие инструментов программирования искусственного интеллекта меняет эту ситуацию. Ануш Элангован, вице-президент AMD по программному обеспечению искусственного интеллекта, заявила в апреле этого года, что Claude имеет преимущество перед HIPify в преобразовании кода, поскольку он имеет встроенные возможности веб-поиска и может получить больше технической информации во время обработки. AMD ранее демонстрировала результаты исследований с использованием агентов искусственного интеллекта для автоматической записи ядер графических процессоров, но ранние системы по-прежнему уступали экспертам-людям в некоторых тестах.
Anthropic не полагается исключительно на графические процессоры Nvidia для запуска своих моделей. Компания одновременно использовала различные типы ускорителей, такие как графические процессоры NVIDIA и AMD, Google TPU и Amazon AWS Trainium, и объединила управление этими аппаратными ресурсами в пул вычислительных ресурсов с гибким планированием. Том Браун ранее назвал раннее решение компании принять стратегию многочиповой платформы необычным выбором. Эта стратегия может стать более привлекательной, поскольку время адаптации программного обеспечения значительно сокращается.
В этом году Anthropic впервые начала использовать графические процессоры AMD и заключила с AMD соглашение о сотрудничестве, предусматривающее предоставление до 2 гигаватт вычислительной мощности. Согласно информации, ранее раскрытой обеими сторонами, AMD также использует Claude для оптимизации рабочей нагрузки графических процессоров серии Instinct и ускорения разработки программной платформы ROCm. AMD полагает, что автоматическая генерация кода ядра с помощью ИИ, как ожидается, еще больше снизит технический порог, позволяющий клиентам использовать ее ускорители.
На самом деле, руководство AMD неоднократно говорило о влиянии инструментов программирования искусственного интеллекта на экосистему программного обеспечения графических процессоров. Генеральный директор AMD Су Цзифэн заявил в сентябре прошлого года, что большое количество программного обеспечения для искусственного интеллекта изначально было разработано на основе CUDA, но теперь значительная часть кода может быть преобразована в форму, подходящую для платформ AMD, с помощью программных инструментов. В июле этого года старший вице-президент AMD Вамси Боппана также заявил, что искусственный интеллект, как ожидается, устранит оставшиеся программные барьеры при внедрении графических процессоров AMD.
На мероприятии AMD Advancing AI, состоявшемся в июле этого года, Филипп Тийе из OpenAI также рассказал о роли агентов ИИ в разработке ядра графического процессора. Он рассказал, что после того, как OpenAI приобрела стойку AMD Helios, инженеру потребовалось всего несколько дней, чтобы подтвердить правильность функционирования системы, отметив, что агенты ИИ постепенно берут на себя часть работы, которая раньше была обязанностью инженеров ядра. AMD также сообщила, что инженер попросил Клода помочь запустить стойку MI355X и обеспечить работу системы в выходные дни.
Данные, раскрытые Anthropic, привлекли внимание, поскольку соответствующие результаты больше не являются просто демонстрациями или рекламой самой AMD. Как компания, занимающаяся искусственным интеллектом, которая фактически покупает и использует чипы, Anthropic сообщила инвесторам об изменениях в своей собственной инженерной практике. В проспекте IPO также упоминается, что с помощью Клода компания смогла внедрить новые платформы микросхем в производственную среду с гораздо меньшими инвестициями в разработку, чем в прошлом, хотя в документе не указана конкретная трехдневная цифра.
Однако улучшение скорости адаптации не доказывает напрямую, что графический процессор AMD соответствует производительности Nvidia. Anthropic не объявила фактическую скорость работы Клода на MI355X и не предоставила данные сравнения производительности с аналогичным оборудованием от Nvidia. В отчете также отмечается, что, хотя на графике, представленном компанией, отмечен прогресс адаптации обоих решений, близкий к 100%, в ней не поясняется подробно, какому содержанию работы соответствует это соотношение.
Генеральный директор Nvidia Дженсен Хуанг ранее заявлял, что сама компания также использует искусственный интеллект для помощи в разработке ядер графических процессоров, и считает, что никто не понимает архитектуру своих чипов лучше, чем Nvidia, поэтому Nvidia может в полной мере использовать производительность оборудования. Что касается внедрения других ускорителей такими компаниями, как Anthropic, он однажды назвал Anthropic особым случаем, а не отраслевой тенденцией.
В то же время автоматическое написание ядер графических процессоров ИИ также сталкивается с новыми узкими местами в ресурсах. В анализе, опубликованном SemiAnalysis в июле этого года, говорится, что затраты на разработку программного обеспечения снижаются, но код, генерируемый агентами ИИ, по-прежнему необходимо тестировать и проверять на реальных графических процессорах. Каждому агенту для запуска тестов требуются соответствующие ресурсы графического процессора, а внутренних ресурсов графического процессора AMD для такой разработки недостаточно, что может стать ограничением для дальнейшего расширения приложений.
В целом, значение демонстрации Клода Мифоса не только в том, что она сокращает конкретный процесс разработки программного обеспечения, но и в том, что ИИ может изменить стоимость миграции программного обеспечения между различными платформами графических процессоров. Преимущества CUDA не исчезнут сразу. Его зрелая цепочка инструментов, экосистема разработчиков и многолетний накопленный опыт оптимизации производительности по-прежнему ценны. Однако, если ИИ сможет все больше и больше автоматически выполнять трансплантацию кода, написание ядра и адаптацию оборудования, клиенты могут быть менее зависимы от конкретных программных экосистем при выборе графических процессоров. Такие конкуренты, как AMD, также получат возможность привлечь клиентов, которые изначально в основном использовали платформы Nvidia, с меньшими затратами на миграцию.
Комментарии