Аннотация:
DeepSeek выпускает большую модель Flash-1017 V4.1. В то время как рынок в целом с нетерпением ждет обновления крупных отечественных моделей ИИ, DeepSeek первым запускает новую версию. Это обновление обеспечивает значительное улучшение производительности.
Конкретные уровни производительности и изменения уже сообщалось ранее. Обратите внимание, что DeepSeek на этот раз также опубликовал кривую Парето, которую часто называют линией убийства ИИ. Версия V4.1 Flash-1017 на этот раз находится на божественном уровне. Стоимость одной задачи составляет всего лишь 1/50-1/100 от больших моделей, таких как Fable и Astra, а соотношение цена/качество как минимум в сорок-пятьдесят раз выше.
Как DeepSeek добился такого успеха? Все знают, что они обладают мощными возможностями оптимизации ИИ и могут сделать все возможное, чтобы сократить расходы. Следующее изображение, опубликованное vllm_project, может ясно показать, насколько сильна компания DeepSeek в оптимизации аппаратного обеспечения искусственного интеллекта.
На этом изображении сравнивается эталонный тест SemiAnalysis AgentX. На платформах GB300 NVL72 и Dynamo vLLM V4.1 Flash использовал 1,3 млрд токенов за 1 доллар США, а скорость взаимодействия P90 превысила 100 ток/с на пользователя.
1 доллар США равен 1,3 миллиарда токенов, поэтому токен 1M стоит всего 0,00077 доллара США, что намного дешевле, чем входная цена V4.1 Flash в 0,15 доллара США.
Конечно, эти две цены на самом деле невозможно конвертировать так просто. Общая стоимость владения в 1 доллар США и 1,3 миллиарда токенов связана с вычислительной мощностью, а ценообразование API должно учитывать более сложные ситуации. Однако сверхнизкая стоимость DeepSeek дает им в этом отношении непревзойденное преимущество.
Поскольку DeepSeek V4.1 Flash имеет невероятное ценовое преимущество, основные платформы осмеливаются предлагать сверхнизкие тарифы. Использование 10-долларового пакета OpenCode и CommandCode в последнее время достигло 80-120 долларов США. OpenCode был бесплатным и открытым в течение последних двух дней. Сейчас использование V4.1 Flash на совокупной платформе маршрутизации находится на уровне 100 миллиардов токенов, и одна компания может сравниться с использованием шести или семи друзей.
Пусть ИИ сравнит совокупную стоимость владения нескольких крупных моделей с открытым исходным кодом. Производительность других крупных моделей с триллионом параметров составляет не более 1/10 от V4.1 Flash. Если это большая модель с 1,5-3 триллионами параметров, то разница в стоимости может достигать более 40-50 раз, что совершенно несопоставимо.
Следует также отметить, что совокупная стоимость владения по-прежнему равна стоимости V4.1 Flash-0910, а не версии 1017, выпущенной сегодня. Хотя цена API последнего не изменилась, это значительно оптимизировало эффективность токенов и снизило потребление токенов. Степень варьируется в разных задачах. С точки зрения соматосенсорики потребление сократилось как минимум вдвое, а это означает, что стоимость владения может быть снова значительно снижена.
Комментарии