Аннотация:
Кроме улучшения возможностей модели, в последней версии Claude Opus 5.5 от Anthropic также был добавлен специальный механизм ограничений для передовых сценариев разработки больших языковых моделей. Когда пользователи используют Opus 5.5 для разработки базового ядра для нового поколения моделей искусственного интеллекта, система может не использовать напрямую последнюю версию Opus 5.5, а автоматически вернуться к Opus 5 с более низкими возможностями. Что еще более примечательно, так это то, что в настоящее время обнаружено, что этот набор ограничений, похоже, нацелен на некоторые ускорители искусственного интеллекта Huawei и Amazon.
В документе поддержки Opus 5.5 компания Anthropic объяснила, что модель имеет специальный классификатор для «передовой разработки LLM» и охватывает ограниченный круг задач, таких как разработка ядра для некоторых ускорителей машинного обучения. Цель классификатора этого типа — определить, предполагает ли текущий запрос пользователя разработку самой современной модели большого языка. Как только соответствующие условия сработают, Клод автоматически вернется с Опуса 5.5 на Опус 5.
Так называемое ядро ИИ — это серия вычислительных операций на самом низком уровне при запуске модели искусственного интеллекта. Ядро отвечает за принятие решения о том, как модель использует вычислительные ресурсы и память чипа и как выполнять различные математические операции. Поскольку эти операции напрямую определяют, как математические вычисления отображаются на реальном процессоре, конструкция ядра напрямую влияет на скорость работы, использование памяти, точность и стоимость вывода больших языковых моделей. Для обучения и запуска самых передовых моделей ИИ оптимизация ядра для конкретных ускорителей ИИ часто является критически важным шагом.
Это ограничение было впервые обнаружено пользователями в документации поддержки после официального выпуска Opus 5.5. Anthropic ранее использовала классификаторы в некоторых моделях для выявления потенциально рискованных запросов, а на этот раз они применили аналогичные механизмы для разработки передовых моделей искусственного интеллекта.
Anthropic ясно дала понять, что эти ограничения не повлияют на подавляющее большинство традиционных задач искусственного интеллекта, исследований в области машинного обучения и обычных задач программирования. Только когда задействовано небольшое количество передовых возможностей разработки LLM, система может активировать механизм отката. Таким образом, для обычных разработчиков использование Opus 5.5 в повседневном программировании, разработке приложений искусственного интеллекта и исследованиях машинного обучения практически не повлияет.
Но после дальнейшего тестирования некоторые пользователи обнаружили, что Opus 5.5, похоже, специально распознает некоторые чипы искусственного интеллекта. Согласно текущим результатам публичных испытаний, этот набор классификаторов включает в себя как минимум Ascend 950DT от Huawei и AI-чип Trainium3 собственной разработки Amazon. Тем не менее, если разработчики используют Opus 5.5 для разработки базовых ядер для передовых моделей большого языка для этих чипов, модели могут автоматически переключиться на Opus 5.
Неудивительно, что чипы Huawei подпадают под это ограничение. В последние годы Anthropic усилила свою защиту от возможности китайских компаний получить ее модели и рассматривает разработку моделей как важный вопрос безопасности и национальной безопасности. Так называемая дистилляция модели подразумевает вызов более функциональной модели в больших количествах, извлечение ее характеристик поведения и возможностей, а затем использование этих данных для обучения другой модели. Недавний отчет об угрозах Anthropic показал, что компания обнаружила, что несколько организаций, связанных с Китаем, проводили несанкционированную деятельность по дистилляции моделей серии Opus Клода, и поэтому еще больше усилила механизмы идентификации учетных записей, перехвата запросов и защиты процесса вывода.
Anthropic также добавила более строгие меры по борьбе с дистилляцией в Opus 5.5, в том числе запретив пользователям API изменять предыдущий контекст разговора модели, чтобы избежать извлечения внутренней информации о рассуждениях модели путем многократного манипулирования контекстом. В компании заявили, что такие меры в основном направлены на крупномасштабную деятельность по извлечению промышленных мощностей, а не на их нормальное использование обычными пользователями.
Поэтому, когда Opus 5.5 обнаруживает запросы на разработку передовых моделей с использованием ускорителя искусственного интеллекта Huawei, механизм ограничения может иметь очевидную техническую и географическую подоплеку. Однако на данный момент недостаточно доказательств того, разработала ли Anthropic этот свод правил специально для Huawei или же она включает в себя отдельные типы ИИ-ускорителей в целом в рамках ограничений.
Что действительно удивительно, так это то, что Amazon Trainium 3, похоже, подвержен такому же воздействию.
Amazon — не только крупная глобальная компания облачных вычислений, но также важный партнер и инвестор Anthropic. Сама модель Claude от Anthropic предоставляется корпоративным клиентам через Amazon Web Services, а серия Trainium представляет собой чип для обучения искусственного интеллекта и вывода, независимо разработанный Amazon для снижения зависимости облачных вычислений искусственного интеллекта от графических процессоров Nvidia. Таким образом, если Opus 5.5 действительно ограничит Trainium3 для разработки передовых моделей ядра, вместо этого Amazon может подвергнуться тому же набору технических ограничений, что и Huawei.
Неясно, была ли эта ситуация намеренной Anthropic или же классификатор допустил неожиданную ошибку при идентификации конкретного ИИ-чипа. Соответствующие тесты показывают, что Opus 5.5, похоже, способен идентифицировать различные аппаратные платформы и решать, разрешить ли использование последней модели на основе содержимого запроса, но Anthropic публично не объяснил, почему Trainium3 вызывает ограничения одновременно с Huawei 950DT.
Эта ситуация особенно примечательна, поскольку ранее Anthropic подчеркивала, что ее модели могут широко предоставляться через облачные платформы, такие как AWS, а Opus 5.5 официально появился на таких платформах, как Amazon Web Services, Google Cloud и Microsoft Azure. Если в будущем это ограничение распространится на большее количество ускорителей искусственного интеллекта для обучения продвинутых моделей, то партнерские отношения между компаниями, занимающимися облачными вычислениями, и компаниями, занимающимися моделями искусственного интеллекта, могут потребовать более сложной координации между возможностями моделей, аппаратной поддержкой и ограничениями безопасности.
С технической точки зрения подход Anthropic на этот раз также отражает новую тенденцию: поскольку модель ИИ сама по себе начинает помогать людям проектировать и оптимизировать модели ИИ следующего поколения, производителям моделей необходимо начать различать два типа задач: «использование ИИ для разработки приложений» и «использование ИИ для разработки более мощного ИИ».
Для обычных программистов разрешение Opus 5.5 помогать в написании приложений, отладке кода или проведении экспериментов по машинному обучению обычно не вызывает особых ограничений. Но если та же модель будет использоваться для разработки базового вычислительного ядра следующего поколения передовых моделей большого языка, Anthropic может счесть это переходом на другой уровень риска и автоматически вернуться к старой модели.
Это означает, что сама модель ИИ постепенно становится частью инфраструктуры исследований и разработок ИИ. В прошлом ограничение использования моделей в основном означало ограничение определенного опасного контента или деликатных областей; теперь производители моделей начинают дополнительно рассматривать такие вопросы, как «кто может использовать новейшие модели для создания моделей следующего поколения» и «должны ли новейшие модели помочь конкурентам оптимизировать их собственную вычислительную инфраструктуру искусственного интеллекта».
В настоящее время Anthropic публично не заявила, почему Trainium3 запускает ограничения одновременно с Huawei 950DT, а также не было ясно, будет ли этот механизм продолжать существовать в будущих версиях. Поскольку все больше и больше компаний начинают разрабатывать свои собственные ускорители искусственного интеллекта, это ограничение на конкретное оборудование и задачи разработки передовых моделей, вероятно, станет новой проблемой, с которой производителям моделей искусственного интеллекта придется столкнуться при поиске компромисса между безопасностью, предотвращением дистилляции возможностей и экологией оборудования.
Комментарии