Аннотация:
В то время как американские компании, занимающиеся искусственным интеллектом, такие как OpenAI и Anthropic, продолжают обвинять китайские компании в копировании передовых технологий посредством «дистилляции моделей», Гарри Тан, генеральный директор Y Combinator, известного американского акселератора стартапов, публично выразил совершенно иную точку зрения. Он сказал, что, если бы это зависело от него, «ничего бы не было сделано» по вопросу дистилляции, и считал, что нынешнее нормативное регулирование не должно быть сосредоточено на борьбе с дистилляцией.
Гарри Тан сделал это заявление во время интервью во время ежегодного мероприятия Y Combinator Demo Day. За последние несколько месяцев очистка моделей стала одной из самых спорных тем в мировой индустрии искусственного интеллекта. Под дистилляцией подразумевается использование результатов, генерируемых более мощной моделью искусственного интеллекта, для обучения меньшей или менее способной модели. В некоторых случаях этот процесс может быть не разрешен разработчиком исходной модели, поэтому некоторые ведущие компании, занимающиеся искусственным интеллектом, рассматривают его как угрозу правам интеллектуальной собственности и коммерческим интересам.
В настоящее время Anthropic публично обвинила такие китайские компании, как Dark Side of the Moon, DeepSeek и MiniMax, в том, что они якобы используют ее модели для обучения дистилляции. OpenAI считает, что часть архитектуры модели DeepSeek может быть заимствована или основана на результатах выходных результатов ее моделей серий GPT-4 и GPT-4o. В то же время Агентство национальной безопасности США, Агентство кибербезопасности и безопасности инфраструктуры и ФБР недавно выпустили совместное предупреждение о кибербезопасности, в котором соответствующие действия были названы угрозами безопасности, требующими внимания.
Однако Гарри Тан не сторонник ужесточения ограничений на перегонку. Он считает, что регуляторам действительно следует сосредоточиться на том, как установить здоровый баланс между моделями открытого веса и передовыми моделями с закрытым исходным кодом, а не просто запрещать или жестко подавлять практику дистилляции. По его мнению, до тех пор, пока ведущая модель может сохранять достаточные преимущества в производительности и ценовые надбавки, позволяющие ее бизнес-модели продолжать работать, существование открытой модели будет способствовать популяризации технологий и распространению инноваций.
Он сказал, что в идеальном состоянии модель открытого веса должна предоставлять свободу и возможности использования большему количеству разработчиков и предприятий, в то время как передовая модель сохраняет коммерческую ценность благодаря своему технологическому лидерству. Хотя этот баланс очень хрупок и сложен, как «идти по канату», он по-прежнему является наиболее достойным путем развития отрасли.
Еще одной предпосылкой спора о дистилляции являются давние проблемы с авторским правом в индустрии искусственного интеллекта. Многие критики отмечают, что такие компании, как OpenAI и Anthropic, также сталкивались с вопросами о несанкционированном использовании новостных репортажей, книг и другого контента, защищенного авторским правом, при обучении своих собственных моделей. The New York Times ранее подала в суд на OpenAI и Microsoft, обвинив их в использовании новостного контента для обучения моделей без разрешения; многие писатели также подали иски против Anthropic по аналогичным вопросам. Гарри Тан считает, что это усложняет этическую позицию отрасли в отношении дистилляции.
Помимо проблемы конкуренции моделей, Гарри Тан также сохраняет осторожность в отношении нынешней растущей «теории конца света ИИ». В последнее время, когда некоторые исследователи искусственного интеллекта публично выразили обеспокоенность по поводу риска выхода продвинутого ИИ из-под контроля, обсуждение в обществе экзистенциальных рисков искусственного интеллекта значительно возросло. Но Тан считает, что отрасли следует уделять больше внимания проблемам, которые уже произошли или вот-вот возникнут в реальности, а не предаваться научно-фантастическим сценариям катастроф.
По его мнению, риски в сфере сетевой безопасности являются наиболее актуальной проблемой в настоящее время. Например, если системы ИИ используются для кибератак, проникновения в инфраструктуру или автоматизированных преступлений, они гораздо более достойны расстановки приоритетов в ресурсах, чем отдаленный сценарий уничтожения человечества ИИ. Что касается таких вопросов, как влияние на занятость и изменения в экономической структуре, он считает, что, хотя эти последствия реальны, они, скорее всего, будут проявляться постепенно в ближайшие несколько десятилетий, а не вспыхнут в течение короткого периода времени.
Стоит отметить, что, несмотря на обостряющиеся дебаты вокруг безопасности искусственного интеллекта и конкуренции моделей, Y Combinator продолжает делать большие ставки на индустрию искусственного интеллекта. Среди 196 стартапов, представленных на этом демонстрационном дне, 149 были связаны с машинным обучением и искусственным интеллектом, что составляет более трех четвертей всех проектов, что отражает высокий оптимизм агентства в отношении будущего развития искусственного интеллекта.
Аналитики считают, что заявление Гарри Тана представляет собой еще один голос внутри Кремниевой долины. В отличие от разработчиков передовых моделей, которые выступают за усиление защиты и ограничение распространения технологий, эта фракция делает упор на открытую экологию, полную конкуренцию и демократизацию технологий. Поскольку индустрия искусственного интеллекта продолжает развиваться быстрыми темпами, ожидается, что дебаты вокруг «дистилляции», моделей с открытым исходным кодом, национальной безопасности и интеллектуальной собственности продолжат становиться важными вопросами в глобальной области искусственного интеллекта в ближайшие несколько лет.
Комментарии