Аннотация:
Дебаты в индустрии искусственного интеллекта о том, «следует ли замедлить темпы развития», быстро накаляются, и Китай оказался в центре этой дискуссии. Генеральный директор Anthropic Дарио Амодей недавно публично заявил, что, если мир попытается установить ограничение скорости развития искусственного интеллекта, самой большой практической проблемой будет не сама технология, а то, как справиться с возможностью того, что конкуренты, такие как Китай, продолжат ускоряться.
Амодей сделал вышеуказанное заявление в интервью СМИ. Не так давно он только что опубликовал длинную статью, которая привлекла всеобщее внимание, призывая индустрию искусственного интеллекта активно замедлить темпы совершенствования возможностей передовых моделей, чтобы выиграть больше времени для исследований в области безопасности, структур управления и контроля рисков. Он считает, что прогресс крупномасштабных моделей в последние годы значительно превзошел ожидания многих людей, особенно после появления тенденции участия искусственного интеллекта в исследованиях и разработках искусственного интеллекта, а совершенствование технических возможностей ускоряется.
Однако, говоря о практической осуществимости этой идеи, Амодей признал, что Китай представляет собой «самую сложную дилемму», стоящую перед всем планом. Он сказал, что если только некоторые страны или компании решат замедлиться, в то время как другие страны продолжат ускоряться, то сторона, которая активно замедляется, может оказаться в невыгодном положении с точки зрения технологической конкуренции, экономических интересов и даже военных преимуществ.
Амодей считает, что в долгосрочной перспективе международное сообщество должно попытаться сотрудничать, чтобы создать некий «механизм ограничения скорости» развития искусственного интеллекта, чтобы избежать беспорядочной конкуренции и продвигать технологические возможности для быстрого преодоления границы безопасности. Но он также сказал, что такое сотрудничество чрезвычайно сложно, поскольку стратегические преимущества от того, чтобы первыми приобрести передовые возможности искусственного интеллекта, огромны. Он признает, что даже не уверен, что такая глобальная координация действительно может быть достигнута, но все же считает, что к этому необходимо работать.
Это заявление сделано в то время, когда вопросам безопасности искусственного интеллекта уделяется постоянное внимание. Недавно ряд исследователей из Anthropic и OpenAI публично выразили обеспокоенность тем, что скорость разработки систем искусственного интеллекта опережает прогресс исследований в области безопасности. Некоторые исследователи даже предупреждают, что риск серьезной потери контроля в ближайшие годы может быть выше, чем обычно признается общественностью.
Прежде чем Амодей призвал к замедлению темпов роста, исследователь Anthropic Джейкоб Коксон уже объявил о своем уходе и публично раскритиковал текущую траекторию развития индустрии искусственного интеллекта. Он считает, что крупные лаборатории искусственного интеллекта берут на себя слишком высокие риски, и что этот риск может затронуть все человеческое общество.
В то же время скорость развития индустрии искусственного интеллекта в Китае в последние годы также привлекла большое внимание со стороны технологической отрасли США. За последние несколько месяцев новые модели, выпущенные рядом китайских компаний, занимающихся искусственным интеллектом, продолжали сокращать разрыв с ведущими американскими продуктами, что еще больше активизировало дискуссии в Кремниевой долине об изменениях в глобальной конкурентной среде ИИ.
В то же время, когда Амодей выступал, китайские лидеры призвали к созданию основанной на консенсусе глобальной структуры управления искусственным интеллектом на саммите БРИКС и поддержали создание системы сотрудничества с открытым исходным кодом в области искусственного интеллекта. Это постепенно вывело вопрос управления искусственным интеллектом из области науки и техники на уровень международной политики и дипломатии.
Аналитики отмечают, что индустрия искусственного интеллекта в настоящее время сталкивается с беспрецедентным противоречием. С одной стороны, все больше компаний и исследователей призывают к усилению надзора и замедлению расширения передовых возможностей; с другой стороны, страны не желают отставать от своих конкурентов в этой технологической гонке, которая считается имеющей стратегическое значение.
В то же время две ведущие компании в США, занимающиеся искусственным интеллектом, Anthropic и OpenAI, находятся на стадии подготовки к листингу. Поскольку внимание со стороны рынков капитала, государственного регулирования и общественного мнения продолжает расти, ожидается, что дебаты о том, следует ли искусственному интеллекту продолжать развиваться полной скоростью или активно замедляться, в ближайшие месяцы, как ожидается, еще больше обострятся.
Для Амодея суть проблемы не только в том, смогут ли технологии стать сильнее, но и в том, сможет ли человеческое общество установить соответствующие правила достаточно быстро, когда технологии продолжают становиться сильнее. Он считает, что среди всех практических задач то, как бороться с конкуренцией, связанной с Китаем, по-прежнему остается самой сложной и трудной для ответа в этой глобальной дискуссии по управлению искусственным интеллектом.
Статьи по теме:
Anthropic обвиняет несколько китайских компаний, занимающихся искусственным интеллектом, в крупномасштабной переработке. Alibaba, Dark Side of the Moon и DeepSeek обвиняются в десятках миллионов взаимодействий
Комментарии