В последние дни Deepseek стал слишком популярен в кругах ИИ. 26 декабря Deepseek объявила, что первая версия новой серии моделей DeepSeek-V3 одновременно доступна онлайн и с открытым исходным кодом. По словам официальных лиц, DeepSeek-V3 превзошел другие модели с открытым исходным кодом, такие как Qwen2.5-72B и Llama-3.1-405B, по многим результатам оценки и находится на одном уровне с лучшими в мире моделями с закрытым исходным кодом GPT-4o и Claude-3.5-Sonnet с точки зрения производительности.
Кроме того, в официальном техническом документе также указано, что общая стоимость обучения модели v3 составляет 5,576 миллиона долларов США, а стоимость обучения таких моделей, как GPT-4o, составляет примерно 100 миллионов долларов США.
Впоследствии Deepseek начал смахивать экран.
27 декабря некоторые СМИ сообщили, что Ло Фули присоединится к Xiaomi, и назвали Луо Фули «гениальной девушкой», родившейся в 1995 году. И эта «гениальная девушка» тоже родом из Deepseek.
После этого экран также заполонили сообщения о том, что Лэй Цзюнь переманивает талантливых девушек с годовой зарплатой в десятки миллионов.
Фактически, еще 20 декабря в СМИ появились сообщения о том, что DeepSeek Луо Фули присоединится к Xiaomi, но в тогдашнем отчете Луо Фули не называлась гениальной девушкой. Сообщение также не попало на экран.
В последние дни на экране внезапно и почти одновременно появились две вещи. Что происходит?
DeepSeek-V3 получил множество положительных отзывов.
Но я выкопал себе яму
Статьи в СМИ воспроизводят «шоковое тело»
После выхода DeepSeek-V3 он получил множество похвал.
С одной стороны, есть множество данных, показывающих, что он получил высокие оценки во многих обзорах. С другой стороны, это низкая стоимость обучения.
Многие громкие имена также высоко оценили DeepSeek-V3.
Например, метаученый Тянь Юаньдун сказал, что обучение DeepSeek-V3 кажется «черной технологией» и это очень большая работа.
Инвестор MenloVenture сказал: «53-страничная техническая статья — это золото».
Однако DeepSeek-V3 тоже вырыл себе яму.
Вскоре кто-то обнаружил, что когда DeepSeek-V3 спросили, какую большую модель он использует, используя английское «whatmodelareyou», он дал ответ «ChatGPT».
Если вы используете китайский язык или добавляете вопросительный знак к «какой модели вы», DeepSeek-V3 сможет ответить правильно.
Однако представители DeepSeek пока не отреагировали на это.
Некоторые аналитики полагают, что причиной этой сцены может быть то, что данные обучения DeepSeek-V3 могут содержать большое количество текста, сгенерированного ChatGPT, из-за чего он «запоминает» часть выходных данных ChatGPT и ошибочно идентифицирует себя как ChatGPT.
Сегодня тест Саньяна показал, что ОШИБКА исправлена.
Саньян также проверил несколько проблем, которые раньше приводили к опрокидыванию многих крупных моделей.
1. В клетке кролики и куры. Всего 20 голов и 45 ног. Сколько здесь кроликов и кур?
Эта проблема на самом деле неразрешима. Несколько дней назад, когда Саньян тестировал еще одну большую модель, другая сторона дала неверный ответ.
DeepSeek-V3 сначала составляет уравнения и решает задачу о том, что количество кроликов равно 2,5, а количество цыплят — 17,5.
Затем было указано, что количество животных должно быть целым числом, что указывает на то, что данные, приведенные в вопросе, могут быть неверными, либо на наличие противоречия в самом вопросе.
2. Какое число больше: 9,11 или 9,9?
Эта проблема ударила по лицу многим крупным моделям.
DeepSeek-V3 дает правильный ответ.
3. На приготовление одной булочки уходит 5 минут. Сколько минут нужно, чтобы приготовить на пару 10 булочек?
Эта проблема также вызвала смущение у крупной модели. Модель не знала, что булочки можно готовить на пару одновременно, и придумала неправильный ответ, что на это уйдет 50 минут.
DeepSeek-V3 также дал правильный ответ.
4. Почему мои родители не пригласили меня присутствовать на свадьбе?
Анализ этой проблемы с помощью DeepSeek-V3 дает четыре причины.
5. Как сделать пряные винты?
Несколько дней назад, когда Саньян тестировал еще одну большую модель, эта проблема также привела к ее опрокидыванию. Эта большая модель дает серьезный подход.
DeepSeek-V3 указал, что винты несъедобны, и дал рецепт «острых улиток».
Судя по ответам на эти вопросы, возможности DeepSeek-V3 действительно неплохие.
Сообщается, что DeepSeek также известен как «Pinduoduo в индустрии искусственного интеллекта».
Это связано с выпуском модели с открытым исходным кодом DeepSeekV2 в мае этого года, которая снизила стоимость вывода всего до 1 юаня за миллион токенов, что составляет примерно одну седьмую от Llama370B и одну семидесятую от GPT-4Turbo.
В то время DeepSeek окрестили «Pinduoduo в индустрии искусственного интеллекта».
Сообщается, что DeepSeek предложил новую архитектуру MLA, которая снизила использование памяти до 5–13% по сравнению с наиболее часто используемой в прошлом архитектурой MHA. В то же время исходная структура DeepSeekMoESparse от DeepSeek также значительно сократила объем вычислений.
В этом отношении DeepSeek превосходит других.
Однако, судя по статьям СМИ, которые на этот раз наводнили экраны, заголовки были заполнены такими ярлыками, как «Шокирующий мир» и «Pinduoduo в индустрии искусственного интеллекта». Я не знаю, является ли это обычной практикой СМИ или это намеренное навешивание ярлыков и позиционирование.
Более того, «ударные тела» слишком распространены в мире ИИ. Многие крупные модели были «шокированы», когда их выпустили. Но после того, как «шок» прошел, жар быстро спал.
Какова способность Ло Фули?
От специальности «электроника» до специальности «компьютерщик»
Никаких знаний программирования на первом курсе.
Я даже не знал Python, но сдал работу через 4 месяца.
2 из 8 статей ACL являются первыми авторами
Публичная информация показывает, что Ло Фули изучала информатику в Пекинском педагогическом университете на степень бакалавра и окончила Институт компьютерной лингвистики Пекинского университета со степенью магистра (аспирантуры). На втором году обучения в аспирантуре она опубликовала 8 статей на ACL2019, ведущей конференции в области обработки естественного языка, две из которых были написаны одним автором. После окончания учебы Ло Фули поступил на работу в Лабораторию машинного интеллекта Академии Дамо Alibaba. В этот период она руководила разработкой многоязычной модели предварительного обучения VECO, которая была включена в AliceMind, систему глубоких языковых моделей Академии Alibaba DAMO. Кроме того, она также возглавляет работу над открытым исходным кодом AliceMind.
В 2022 году Луо Фули покинул Alibaba, чтобы работать исследователем глубокого обучения в DeepSeek и участвовать в разработке большой модели DeepSeek MoE DeepSeek-V2.
Энциклопедия Baidu Ло Фули была обновлена, чтобы стать ответственным за лабораторию искусственного интеллекта Xiaomi. Несмотря на то, что поиск был горячим и обновлялся в течение двух дней, Xiaomi до сих пор не отреагировала на присоединение гениальной девушки.
Судя по истории редактирования записи «Ло Фули», она появилась только 28 декабря и была отредактирована множеством разных пользователей сети.
Сообщается, что Ло Фули опубликовал 8 статей на ACL2019 и находился в горячем поиске Чжиху.
Тогда Ло Фули опубликовала ответ на Чжиху, в котором говорилось, что она проголосовала за один длинный и один короткий ACL в том году и выиграла оба, а другие статьи лишь частично участвовали в исследованиях однокурсников по лаборатории.
Луо Фули также сказала, что в кругу ее друзей много людей, которые выиграли две награды ACL и написали одну длинную статью. Во-вторых, эта публикация в ACLpaper — ее результат за последний год, так что она приложила для себя достаточно усилий, и, конечно, может быть и удача.
В июне 2021 года Ло Фули написала в статье в своем официальном аккаунте: «В этом году я получила ярлык, которым меня знает большинство людей в моей жизни - 8 лучших статей (не все), и из-за этого я была «внесена в список» пользователей сети на Чжиху и «выиграла» (взломала) титул какой-то гениальной ИИ-красивой девушки Лоли».
Позже Ло Фули также рассказала о своем опыте исследований в области страхования в статье в своем публичном аккаунте.
Луо Фули сказала, что ее опыт поступления в аспирантуру полностью отличался от обычного опыта поступления в аспирантуру. В марте она активно связывалась с репетиторами в различных школах, писала им по электронной почте, прикрепляла резюме, представилась (включая оценки, личный опыт работы над проектами и результаты научных исследований), а затем спросила у преподавателя, есть ли место в аспирантуре, и сказала, что может пойти на стажировку.
Кроме того, Ло Фули также рассказала в видеоинтервью, что изначально она занималась не компьютерами, а электроникой. Случайно она переключилась на информатику.
Луо Фули сказала, что на первом году обучения информатике у нее не было никаких знаний в области программирования. Ей потребовалось три часа, чтобы решить задачу, которую другие могли бы решить за три минуты.
Но ее прогресс также довольно стремителен.
Ло Фули рассказала, что, когда она училась на первом курсе, она начала обращаться к преподавателям различных специальностей Пекинского университета, чтобы пройти стажировку в их группах. Четыре месяца спустя она прошла путь от человека, который даже не знал Python, и представила доклад на крупнейшую конференцию по обработке естественного языка.
Она также сказала, что с точки зрения интеллекта она должна находиться на уровне ниже среднего. Обычно я делаю все очень глупо и небрежно. Я часто забываю взять с собой ключи, когда выхожу на улицу, теряюсь, пользуюсь лифтом и т. д.
Стоит отметить, что все видеоинтервью Ло Фули были сняты больницей Да.
Судя по вышеизложенному, Ло Фули, возможно, не такой уж и чудесный.
Сама она подтвердила, что частично участвовала в 6 из так называемых 8 документов ACL.
Хотя в Интернете есть некоторая информация о прошлом Ло Фули, до того, как Сяоми переманила ее, Ло Фули действительно не была широко известна.
Саньян искал информацию Baidu, используя ключевое слово «Ло Фули» и нашел только две страницы соответствующего контента, самая ранняя из которых была опубликована 10 дней назад.
Теперь, когда экран внезапно обновился, я не знаю, считается ли это маркетинговым поведением. Судя по тому, что на первом курсе смены специальности он не был знаком с программированием, а потом вошел в число лучших, не знал Python и в течение 4 месяцев защитил диссертацию, он действительно был гением.
В этом году «слишком много» талантливых девушек
В июне этого года появилась еще одна математическая гениальная девушка, вызвавшая восхищение. Все знают последующие результаты.
На этот раз талантливая девушка Ло Фули тоже получила необычный опыт, я считаю, что у нее есть соответствующая сила. Xiaomi также должна как можно скорее ответить, присоединилась она или нет.
До этого, когда была выпущена большая модель Pika от Vincent Video, Го Вэньцзин, одну из основательниц ее команды разработчиков, также называли «гениальной девочкой».
Но вскоре Пика и Го Вэньцзин потеряли голос.
На этот раз на «Гениальную девушку» также наложены два усиления: «Глубокий поиск» и «Лэй Цзюнь». Что касается того, есть ли у этих двух баффов дополнительные бонусы к атрибутам, вам все равно нужно какое-то время позволить пулям летать.