Аннотация:
Споры о том, следует ли передовому искусственному интеллекту активно замедлять свое развитие, в последние дни резко обострились. Генеральный директор Anthropic Дарио Амодей публично призвал всю индустрию искусственного интеллекта замедлить темпы развития возможностей продвинутых моделей, а генеральный директор OpenAI Сэм Альтман и генеральный директор xAI Илон Маск позже выразили поддержку.
Однако Дэвид Сакс, американский технологический инвестор и председатель президентского консультативного комитета по науке и технологиям, резко раскритиковал эту инициативу, полагая, что если OpenAI и Anthropic действительно считают, что нынешняя скорость развития ИИ достаточно опасна, чтобы их нужно было тормозить, то они могут самостоятельно замедлить исследования и разработки и не должны навязывать отраслевую координацию, антимонопольные исключения или механизмы одобрения правительства в качестве дополнительных условий.
Ранее компания Amodei опубликовала статью, в которой предупреждала, что передовые возможности искусственного интеллекта быстро приближаются к этапу, который может создать серьезные угрозы безопасности. Он считает, что если модель продолжит развиваться с нынешней скоростью, а механизм безопасности не сможет за ней поспеть, в ближайшие 6–12 месяцев кластеры агентов ИИ могут даже получить возможность контролировать Интернет в больших масштабах и использоваться для запуска кибератак или нанесения другого серьезного вреда.
Amodei предложил набор планов под названием «Замедление передового искусственного интеллекта», который включает в себя разрешение независимым сторонним агентствам по оценке безопасности глубоко проникать в компании, занимающиеся искусственным интеллектом, для постоянной проверки безопасности моделей с полномочиями, близкими к сотрудникам компании; позволить крупным лабораториям искусственного интеллекта координировать стандарты безопасности, чтобы избежать постоянного снижения компаниями порогов безопасности из-за конкурентного давления; одновременно содействуя более тесному сотрудничеству между Соединенными Штатами и их союзниками и, в конечном итоге, обсуждая вопросы безопасности ИИ с другими странами, включая Китай.
Эта инициатива быстро получила поддержку OpenAI. Альтман заявил, что согласен с мнением Амодеи о том, что индустрии искусственного интеллекта необходимо замедлить разработку передовых моделей, и заявил, что этот вопрос стал важной темой недавнего обсуждения в рамках OpenAI. Маск также публично выразил свое одобрение. За короткий период времени несколько крупнейших мировых компаний, занимающихся искусственным интеллектом, достигли редкого консенсуса по вопросу «надлежащего замедления».
Но Сакс считает, что здесь есть очевидная логическая проблема.
По его мнению, если Амодей и Альтман действительно верят, что модель ИИ следующего поколения несет в себе серьезные риски, которые необходимо замедлить, то двум компаниям не нужно ждать одобрения правительства, им не нужно убеждать конкурентов, а также им не нужна новая правовая база. Будучи наиболее передовыми в настоящее время компаниями-разработчиками искусственного интеллекта, они могут напрямую сократить скорость своих исследований и разработок, а также скорость развертывания.
Сакс даже предположил, что если эти компании действительно верят, что некоторые системы искусственного интеллекта достаточно опасны, чтобы угрожать людям, то «самый простой способ» — не продолжать разработку или выпуск этих систем. Он считает, что вместо того, чтобы просить правительство создать новую систему регулирования, лучше позволить компаниям, которые действительно владеют передовыми возможностями исследований и разработок в области ИИ, действовать самостоятельно.
Что действительно возражает Саксу, так это часть плана Amodei, которая предполагает координацию деятельности отрасли и механизмы регулирования. Он предупредил, что если конкуренты, такие как OpenAI и Anthropic, получат освобождение от антимонопольного законодательства через правительство, а затем совместно решат, с какой скоростью всей отрасли следует развивать ИИ, соглашение может фактически перерасти в «картель».
По мнению Сакса, предоставление возможности нескольким ведущим компаниям, занимающимся искусственным интеллектом, совместно задавать темпы разработки передового искусственного интеллекта, может привести к результатам, которые полностью отличаются от целей безопасности. Существующие гиганты могут не только ограничивать конкуренцию с помощью этого механизма, но также могут использовать систему регулирования для повышения порога входа на рынок опоздавших, тем самым еще больше укрепляя свои лидирующие позиции.
В этом также суть критики Сакса: он не просто выступает против замедления индустрии искусственного интеллекта, но считает, что если компании действительно готовы замедлить темпы, им следует сделать это самим, а не просить правительство предоставить взамен какую-то правовую защиту.
Сакс также выступает против создания системы предварительного одобрения, аналогичной «Управлению по контролю за продуктами и лекарствами AI». По его мнению, нет необходимости госорганам одобрять эти продукты один за другим до того, как продвинутые модели ИИ будут официально выпущены. Вместо того чтобы создавать новый механизм предварительного лицензирования, лучше полагаться на существующую систему ответственности за качество продукции, которая позволит компаниям, занимающимся искусственным интеллектом, нести юридическую ответственность за свою продукцию и ее последствия.
Например, если модель ИИ используется для проведения серьезной кибератаки или непосредственно причиняет крупный ущерб из-за собственных недостатков, то компания-разработчик модели должна нести соответствующую ответственность за качество продукции. Сакс считает, что это потенциальное правовое и экономическое последствие само по себе может стать важным препятствием для компаний, занимающихся искусственным интеллектом, в плане контроля рисков.
Он также считает, что рынок капитала также оказывает сдерживающее воздействие. Если продукты определенной ИИ-компании часто сталкиваются с проблемами безопасности, непредсказуемым поведением или серьезными авариями, это может напрямую повлиять на ее корпоративную репутацию, доверие клиентов и рыночную стоимость. Поэтому нет необходимости создавать специальную систему одобрения для индустрии ИИ, полностью независимую от существующей правовой системы.
В то же время Сакс также поставил под сомнение независимость некоторых механизмов оценки безопасности ИИ. Он особо упомянул агентство по оценке безопасности, используемое Anthropic, и полагал, что если между агентством по оценке и оцениваемым предприятием существуют инвестиционные отношения, кадровые отношения или другие отношения интересов, то вопрос о том, является ли эта оценка действительно независимой, заслуживает дальнейшего обсуждения.
Этот спор произошел в очень деликатное время. За последние несколько месяцев опасения по поводу рисков безопасности в индустрии искусственного интеллекта значительно возросли. Anthropic недавно раскрыла серию инцидентов, связанных со злоупотреблением системами искусственного интеллекта, возможностями сетевых атак и защитой безопасности. Исследователи внутри компании также публично выразили обеспокоенность по поводу скорости развития ИИ.
Среди них исследователь Anthropic публично предупредил, когда он недавно ушел в отставку, что индустрия искусственного интеллекта слишком быстрыми темпами продвигает технологии, которые могут быть чрезвычайно рискованными. Другие исследователи безопасности из Anthropic также выразили серьезную обеспокоенность по поводу риска выхода ИИ из-под контроля в будущем.
Поэтому публичный призыв Amodei к замедлению — это не изолированное политическое заявление, а результат дальнейшей эскалации всей дискуссии о безопасности ИИ.
Однако даже если компании действительно готовы замедлиться, реальная операция гораздо сложнее, чем кажется. OpenAI, Anthropic, Google DeepMind, xAI и другие компании, занимающиеся искусственным интеллектом, жестко конкурируют. Если какая-либо компания в одностороннем порядке замедляет НИОКР, она может беспокоиться, что ее конкуренты воспользуются возможностью ускориться и получить преимущества в возможностях модели, доле рынка и рынках капитала.
На самом деле это представляет собой типичную «дилемму заключенного»: если все компании, занимающиеся искусственным интеллектом, одновременно замедлят работу, вся отрасль может получить больше времени для улучшения мер безопасности; но если только одна компания замедляется, а конкуренты продолжают продвигаться вперед, то компания, которая активно замедляется, может понести коммерческие и технические потери.
Вот почему OpenAI уже начала обращать внимание на то, не нарушит ли отраслевая координация антимонопольное законодательство США. Согласно сообщениям, OpenAI запросила у американских законодателей четкое мнение о том, является ли законной координация отрасли с целью замедления развития ИИ. Потому что, если несколько конкурирующих компаний совместно решат замедлить разработку передовых моделей, сама эта координация может вызвать проблемы с антимонопольным законодательством.
В результате возникает очень острый вопрос: должны ли компании, чтобы улучшить безопасность ИИ, разрешить координацию между конкурентами, которая обычно ограничивается антимонопольным законодательством?
Сторонники считают, что если каждая компания, занимающаяся искусственным интеллектом, знает, что замедление само по себе приведет к ухудшению конкурентоспособности, то только посредством некоторой координации на отраслевом уровне все компании смогут по-настоящему затормозить одновременно.
Сакс считает, что это может стать причиной того, что крупные компании, занимающиеся искусственным интеллектом, используют проблемы безопасности для получения особого режима регулирования. Он обеспокоен тем, что как только правительство разрешит нескольким ведущим компаниям координировать свои действия посредством исключений из антимонопольного законодательства, этот механизм может в конечном итоге превратиться из «координации безопасности» в инструмент ограничения рыночной конкуренции.
В то же время существует явная разница между отношением правительства США к замедлению развития ИИ и заявлениями этих технологических компаний. Президент США Трамп недавно публично заявил, что, хотя он и считает, что ИИ может установить определенные «ограждения», он не хочет, чтобы Соединенные Штаты замедляли свое развитие из-за чрезмерной обеспокоенности по поводу рисков. Он подчеркнул, что США в настоящее время лидируют в Китае в области искусственного интеллекта, и «тот, кто победит в области искусственного интеллекта, выиграет будущее». Поэтому Соединенные Штаты не могут легко отказаться от своего технологического лидерства.
Это также напрямую связывает проблемы безопасности ИИ с китайско-американской технологической конкуренцией.
Сам Амодей также признал, что если США в одностороннем порядке существенно замедлит развитие ИИ, в то время как Китай и другие страны продолжат ускоряться, США могут потерять свое технологическое преимущество. Поэтому он предлагает не просить американские компании прекратить исследования и разработки в области ИИ на неопределенный срок, а надеяться, что крупные страны и компании смогут сформировать некий координационный механизм, чтобы выиграть время для принятия мер безопасности, сохраняя при этом конкурентные преимущества.
Проблема в том, что на данный момент не существует механизма, гарантирующего, что все страны замедлятся одновременно.
Это также стало одной из важнейших причин для тех, кто выступает против масштабного замедления темпов роста отрасли. Если ИИ стал важной частью национальной стратегической конкуренции, любой из сторон трудно поверить, что конкуренты добровольно остановятся и будут ждать, пока сами улучшат свои системы безопасности.
Таким образом, дебаты между Саксом, OpenAI и Anthropic на самом деле вышли далеко за рамки простого технического вопроса о том, «как быстро должен развиваться ИИ», и включают в себя более сложный выбор промышленной политики: должны ли компании определять скорость разработки передового ИИ или должно ли правительство участвовать в формулировании единых правил? следует ли рассматривать координацию в области безопасности как законное отраслевое сотрудничество или же она может перерасти в картель, ограничивающий конкуренцию; следует ли избегать несчастных случаев с искусственным интеллектом с помощью предварительного регулирования или же компании должны нести расходы после происшествия за счет ответственности за качество продукции.
В настоящее время кажется, что Сакс не против того, чтобы OpenAI и Anthropic взяли на себя инициативу по замедлению темпов. Если обе компании действительно верят, что риски, связанные с передовым искусственным интеллектом, достаточно серьезны, чтобы замедлить их исследования и разработки, он даже дал понять, что может поддержать их в этом.
Но его условия также были ясны: если вы считаете, что вам следует замедлиться, замедлите ход сами и не разменивайтесь на одобрение правительства, антимонопольные льготы или специальные нормативные меры защиты.
Реальный исход этих дебатов может в конечном итоге зависеть от того, что OpenAI и Anthropic сделают дальше. Если они действительно возьмут на себя инициативу по замедлению разработки передовых моделей, не получив специального юридического режима, то «замедление ИИ» скорее будет расценено как реальная мера безопасности; если в конечном итоге будет сформирована система регулирования, в которой несколько ведущих компаний совместно формулируют правила, ограничивая при этом вход опоздавших, тогда озабоченность Сакса по поводу «регулятивного захвата» и «картелей» получит больше внимания.
Поскольку возможности моделей ИИ продолжают быстро улучшаться, дебаты по поводу «ускорения или замедления», очевидно, не закончатся в ближайшее время. Вероятно, в ближайшие несколько лет это станет одним из основных противоречий в политике США и мира в области ИИ.
Комментарии