Аннотация:
Вчера компания DeepSeek открыла исходный код своей собственной технологии «печатающей машины», которая находится под коробкой. Они опубликовали технический блог под названием «Практика крупномасштабного развертывания логического вывода DeepSeek V4.1 Flash» и удобно создали структуру вывода облачных сервисов «DeepInfer», которая поддерживает их собственные онлайн-десятки миллиардов вызовов, вместе с компонентом сегментации слов производственного уровня «deepseek-recipe», полностью открытым исходным кодом по протоколу Apache 2.0.
В блоге даже говорится, что в будущем код вывода и последующая оптимизация производительности новой модели DeepSeek будут по-прежнему предоставляться миру в DeepInfer.
Открытое и светлое помещение не на высшем уровне.
«Делайте то, что хорошо, и делайте это для всех, и делайте это умело, и каждый сможет это сделать». Обеспечение доступности ИИ для большего числа людей также включает в себя предоставление друзьям и бизнесменам возможности продавать ИИ дешевле.
Мы можем сначала детально подсчитать, насколько ценен этот набор кодов, который DeepSeek на этот раз бесплатно раздал всему человечеству. Благодаря новой платформе DeepInfer с открытым исходным кодом текущая пропускная способность сервиса DeepSeek в одном кластере достигла 155 триллионов токенов в день.
Даже если рассчитывать полностью на основе самой низкой цены, общий доход этой системы достигает 38 долларов США за карту в час, что эквивалентно примерно 253 юаням в юанях.
Другими словами, золотые монеты, заработанные за использование карты в компьютерном зале в течение одного часа, превышают почасовую заработную плату обычных рабочих. Более того, Кард не пьет холодную американскую еду, не берет оплачиваемый ежегодный отпуск и безумно печатает деньги для DeepSeek в компьютерном зале 24 часа в сутки.
Печатный станок для денег в реальном физическом смысле.
Почему я предлагаю сторонним производителям отраслевой инфраструктуры предоставить DeepSeek реальный источник поддержки, потому что они не только учат его ловить рыбу, но и учат его ловить рыбу.
Раньше так называемые модели с открытым исходным кодом в отрасли предоставляли только файлы веса модели. Что касается того, как добиться высокой пропускной способности в производственной среде и как уменьшить задержку, все они были спрятаны в черных ящиках с закрытым исходным кодом как коммерческая тайна.
Адрес открытого исходного кода DeepInfer: https://github.com/deepseek-ai/DeepInfer
Адрес открытого исходного кода deepseek-recipe: https://github.com/deepseek-ai/deepseek-recipe
В результате небольшие поставщики или компании вычислительной техники второго и третьего уровня купили кучу карт и развернули их самостоятельно. Коэффициент использования вычислительной мощности был смехотворно низким. Денег от продажи токенов не хватило даже на оплату счетов за электричество в компьютерном зале. Им пришлось тайно разбавлять токены, либо тайно используя более дешевые модели, либо тайно ограничивая спецификации.
На этот раз Цуй Тяньи, ответственный за DeepSeek Harness, очень честно высказался о X. Открывая DeepInfer и рецепт deepseek, он надеется, что компании и учреждения по всему миру смогут внедрить модели DeepSeek и зарабатывать на этом реальные деньги.
Кибер-живой бодхисаттва принадлежит Yes.
Пользователь сети Zephyr произвел некоторые подсчеты и сказал, что сегодня наступил еще один момент DeepSeek, потому что теперь любой поставщик услуг вывода второго или третьего уровня на планете может получить ошеломительную валовую прибыль, превышающую 90% от собственных вычислительных мощностей, используя этот набор готовых моделей и формул.
Даже официальный аккаунт vLLM, старшего брата метода вывода с открытым исходным кодом, ночью опубликовал сообщение с благодарностью DeepSeek за возвращение DeepInfer, который изначально был создан на основе vLLM, сообществу открытого исходного кода с использованием самого свободного протокола Apache 2.0.
Исследователь DeepSeek Дели Чен в еще большем восторге от X. Грубо говоря, это решающая битва человеческой судьбы между открытым исходным кодом и закрытым исходным кодом, светом и тьмой. Как бы долго противник ни хотел сражаться, мы останемся с вами до конца до полной победы.
Кроме того, если вы посмотрите технический блог DeepSeek, вы обнаружите, что их уверенность проистекает из их инженерной одержимости выжимать каждую каплю графической памяти.
С первого дня разработки эта система имеет широкую аппаратную совместимость: используются обычные машины с 8 картами для предварительного заполнения и суперузлы с 64–128 картами для декодирования.
Самое впечатляющее — предложение по развертыванию Vision Encoder в документе. В оригинале слова инженера гласили: «Как правило, достаточно одной карты. Рекомендуется использовать самую дешевую карту из доступного диапазона».
Нет, мои коллеги заняты тем, что рассказывают инвесторам, что они не используют нетоповые флагманские карты. Официальные документы DeepSeek учат вас, как обойтись самой дешевой картой в углу компьютерного зала. Вы такой же прилежный и бережливый, как мой домовладелец в Гуандуне.
Быть предельно скупым — это искусство.
Чтобы вы могли отправлять как можно больше токенов с наименьшими счетами за электроэнергию, DeepSeek также раскрыл несколько уникальных секретов.
Например, агенты и длинные текстовые разговоры сейчас становятся все более популярными. Каждый раз, когда Prefill пересчитывается, это стоит реальных денег. DeepSeek напрямую создал кластер распределенного хранилища 3FS емкостью 100 ПиБ, чтобы сохранять KVCache трафика агента более 72 часов, а трафик чат-бота сохраняется в течение 7 дней.
Длительного хранения недостаточно. Они используют сетевые карты RDMA и технологию GDR, чтобы увеличить совокупную пропускную способность чтения до невероятных 10 ТиБ в секунду. При перекачке с жесткого диска на видеопамять он перекрывается с прямым вычислением и даже не занимает вычислительный блок SM графического процессора.
Даже при переходе от версии 4 к версии 4.1 инженеры обнаружили, что запись кэша скользящего окна SWA KVCache минутного уровня на жесткий диск занимала слишком много места, а экономическая эффективность хранилища была крайне низкой. Они просто придумали технологию SWA Bounded Replay, которая пересчитывала только последние 128 токенов, и, наконец, сократили общую сумму вычислений предварительного заполнения вдвое.
Специально для теста производительности Prefill: по мере увеличения количества токенов, обрабатываемых в каждом пакете, входная пропускная способность кэша промахов постепенно увеличивается и в конечном итоге выравнивается. Продолжение расширения партии в основном увеличивает время одноэтапной обработки.
Чистый мастер, Бро.
Глядя на рецепт глубокого поиска синхронного компонента Rust с открытым исходным кодом, он решает всю грязную работу, о которой разработчикам приходится беспокоиться в производственной среде каждый день.
Он объединяет три протокола API для завершения чата OpenAI, ответов и сообщений Anthropic в одном формате. Он также использует сегментированное параллельное кодирование для устранения задержек сегментации длинных текстовых слов и блокирует атаки с внедрением специальных токенов снизу.
Что касается базового планирования, то из-за перекрытия асинхронных конвейеров графического процессора и процессора графический процессор полностью простаивает на протяжении всего процесса. Даже спекулятивное декодирование DSpark использует проверку переменной длины, и пропускная способность в режиме онлайн увеличивается на 6%.
Когда дело доходит до этапа декодирования при генерации ответов, кривая производительности также представляет собой интуитивно понятный компромисс. Одновременная обработка большего количества запросов может увеличить общую выходную пропускную способность каждого графического процессора, но скорость генерации, назначенная каждому пользователю, также уменьшится.
На самом деле, Лян Вэньфэн заявил еще в 2024 году, когда цена на DeepSeek V2 была снижена, этот набор бизнес-логики заключается в том, чтобы устанавливать цену после учета затрат, без каких-либо скидок, но он никогда не принесет огромной прибыли, потому что ИИ должен быть универсальным и доступным для всех.
Вам не обязательно заниматься бизнесом, но сначала необходимо установить правила, позволяющие избежать изжоги.
Когда вы поймете, как DeepSeek полагается на свои экстремальные возможности Infra, чтобы превратить Token в выгодную сделку, а затем посмотрите на группу гигантов с закрытым исходным кодом на другой стороне океана, которые целыми днями говорят о благополучии всего человечества, вы обнаружите, насколько лицемерны OpenAI и Anthropic.
Благодаря Open в названии компания полностью перешла к коммерциализации закрытого исходного кода, полагаясь на дорогостоящие API и ежемесячное членство в размере 500 долларов США для получения дохода от бизнеса разработчиков по всему миру, и уже давно превратилась в полноценный CloseAI.
Anthropic наняла охрану с первого дня своего основания, и даже проект ее проспекта S-1, который только вчера был опубликован в Wall Street Journal, до сих пор занимается этим.
Они потратили много времени на написание научно-фантастических страшилок в своем проспекте, серьезно предупреждая инвесторов, что их модель искусственного интеллекта может развить чувство самозащиты, чтобы избежать отключения, и может даже генерировать реакции, подобные «шантажу людей», чтобы заставить людей продолжать бежать.
Тогда возникает вопрос: раз Anthropic говорит о том, что ИИ так опасен, почему же он до сих пор отказывается от открытого исходного кода и настаивает на том, чтобы запереть модель в своих руках?
Причину понять нетрудно. Потому что, как только история о призраке безопасности «Только я могу контролировать опасный ИИ» не будет рассказана, будет трудно распространять эту игру о сумасшедшем сжигании денег и стремлении достичь оценки в два триллиона долларов США.
В проспекте указано, что Anthropic понесла чистый убыток в размере 80,7 миллиарда долларов США в первой половине 2026 года. Хотя 72 миллиарда долларов США из этой суммы были связаны с изменениями справедливой стоимости конвертируемых облигаций, на самом деле компания потратила почти 9 миллиардов долларов США только на покупку вычислительной мощности и инфраструктуры в первой половине года, что больше, чем за весь 2025 год.
С знакомой формулой все в порядке. Слева находится золотопоглощающий гигант с закрытым исходным кодом и оценкой в 2 триллиона долларов, который сжигает деньги и приобретает землю. Справа — благотворительный фонд, использующий купоны за моральные заслуги. В середине он полагается на продажу беспокойства по поводу безопасности ИИ и запугивание надзора, чтобы заблокировать сообщество открытого исходного кода.
Говоря прямо, есть только одна фундаментальная причина, по которой гиганты закрытого исходного кода в Кремниевой долине отчаянно пытаются демонизировать открытый исходный код. То есть DeepSeek, настоящий проект с открытым исходным кодом, который поставляется с движком и формулой, полностью разрушит нарратив об искусственном интеллекте, который они продают.
Блогер @bookwormengr, написавший «Шахматную игру DeepSeek на десять триллионов долларов», только что сделал чрезвычайно трудный расчет.
В соответствии с чрезвычайной мощностью этого набора DeepInfer на суперузле NVIDIA GB200 NVL72, 1 ГВт вычислительной мощности может генерировать от 100 до 149 миллиардов долларов США дохода от токенов в год, что почти в десять раз превышает цифру, ранее прогнозируемую отраслевыми организациями.
Если SemiAnaанализ прогнозирует, что в 2027 году в мире будет подключено 50 ГВт вычислительной мощности, даже если разделить ее пополам, по рассуждениям это будет 25 ГВт. Согласно цене на капусту DeepSeek, всем людям придется потреблять 2,5 триллиона долларов США в год, чтобы ее израсходовать.
Если конвертировать в зловещий токен, цена которого более чем в четыре раза превышает цену OpenAI и Anthropic, к концу 2027 года всему человечеству придется внести полные 10 триллионов долларов США в виде ARR, чтобы удовлетворить потребность в 25 ГВт вычислительной мощности.
Причина, по которой зарубежные гиганты с закрытым исходным кодом полагаются на накопление карт, сжигание денег и подписание сотен миллиардов контрактов для поддержания своей истории, объясняется двумя причинами. Либо их собственная инженерная оптимизация идет слишком медленно, либо они намеренно используют неэффективность в качестве прикрытия и устанавливают высокие пороговые значения вычислительной мощности, чтобы не допускать других.
DeepSeek лопнул этот пузырь искусственного интеллекта, выпустив модели с открытым исходным кодом и полный набор проектов рассуждений с открытым исходным кодом. Как пошутили некоторые пользователи сети, ожидается, что благодаря технологии с открытым исходным кодом DeepSeek OpenAI и Claude снова будут тайно развиваться.
Я предлагаю, чтобы, когда мы трое вместе, должен быть один человек, который был бы моим учителем. Anthropic должен перестать быть зарезервированным и ночью перейти на GitHub, чтобы git клонировать DeepInfer от DeepSeek для развертывания. Если вы украдете некоторые идеи по планированию и оптимизации кэша, вы сможете сэкономить много счетов за вычислительную мощность. (Ручная собачья голова)
Комментарии