Аннотация:
Президент Microsoft Брэд Смит заявил, что нынешний надзор за искусственным интеллектом далеко не достаточен, даже меньше, чем над обычными потребительскими товарами, такими как молоко и стиральные машины. Он призвал страны как можно скорее установить глобальные правила безопасности искусственного интеллекта, в том числе потребовать от компаний уведомлять жертв, когда системы искусственного интеллекта выходят из-под контроля и причиняют ущерб, представлять отчеты об авариях и принимать отзывы независимых оценочных агентств до официального выпуска некоторых продуктов искусственного интеллекта.
Эта позиция Смита находится в явном противоречии с заявлениями президента США Дональда Трампа. Трамп считает, что индустрия искусственного интеллекта должна в основном полагаться на собственное регулирование, чтобы избежать чрезмерного государственного вмешательства, которое ослабляет способность американских компаний конкурировать с китайскими конкурентами. Смит считает, что искусственный интеллект обладает двойными качествами и инструмента, и оружия, и он не может продолжать полагаться исключительно на корпоративную самодисциплину для контроля рисков.
«Ваша стиральная машина теперь подчиняется большему количеству правил безопасности, чем искусственный интеллект», — сказал Смит в подкасте BBC Big Boss Interview. «Каждая упаковка молока, которую вы видите в продуктовом магазине, подлежит правилам безопасности и проходит проверку».
Он считает, что развитие искусственного интеллекта достигло той стадии, когда необходимо принимать меры. Странам следует извлечь уроки из опыта регулирования других отраслей и создать системы безопасности, подходящие для технологий искусственного интеллекта, вместо того, чтобы ждать, пока произойдут серьезные аварии, чтобы обсудить, как на них реагировать.
Поскольку в последние годы возможности моделей искусственного интеллекта быстро улучшились, возросли призывы к ужесточению регулирования отрасли. Некоторые эксперты в области искусственного интеллекта даже предупредили, что эта технология может представлять угрозу долгосрочной безопасности человеческого общества. Сосредоточив внимание на рисках кибербезопасности, неконтролируемом поведении и другом потенциальном вреде, который может принести искусственный интеллект, внутри отрасли также начались дискуссии о том, следует ли замедлять развитие технологий.
Руководители американских компаний, занимающихся искусственным интеллектом, Anthropic, OpenAI и Google DeepMind, поддерживают более осторожный подход к развитию искусственного интеллекта, а некоторые также поддерживают замедление технологических исследований и разработок при определенных обстоятельствах. Однако Трамп всегда выступал против мер, которые могут ограничить развитие индустрии искусственного интеллекта в США, и неоднократно подчеркивал, что США должны оставаться впереди в этой технологической конкуренции.
Смит считает, что искусственный интеллект не следует рассматривать просто как обычный программный продукт. Поскольку системы агентов искусственного интеллекта приобретают более сильные возможности автономного выполнения, а передовые модели оказывают все большее влияние в области кибербезопасности, связанные с этим риски требуют от правительств, предприятий и независимых оценочных агентств совместного реагирования.
Он призвал компании установить механизмы экстренного торможения для систем искусственного интеллекта, которые в отрасли часто называют «выключателем». Если система искусственного интеллекта выходит из-под контроля или начинает выполнять операции, которые могут привести к серьезным последствиям, предприятия должны иметь возможность своевременно приостановить работу системы или снизить скорость и авторитет ее работы, чтобы предотвратить дальнейшее расширение рисков.
Смит также выступает за введение обязательной системы оповещения о несчастных случаях. Если агент искусственного интеллекта теряет контроль и вторгается в другие системы или причиняет ущерб пользователям из-за ненормального поведения, соответствующие компании должны сообщить об инциденте в соответствии с законом и проинформировать затронутых лиц или организации.
Он считает, что эти меры должны стать частью системы регулирования безопасности искусственного интеллекта и не могут просто полагаться на добровольные действия компаний.
Кроме того, Смит предложил, чтобы перед выпуском определенных продуктов искусственного интеллекта с высоким уровнем риска они были проверены независимыми оценщиками, признанными правительством, чтобы определить, соответствует ли система соответствующим требованиям безопасности. Это не означает, что все продукты искусственного интеллекта должны подвергаться одинаковому уровню контроля, но необходимость независимой оценки перед выпуском должна определяться на основе возможностей продукта, сценариев использования и потенциальных рисков.
Смит сказал, что в других отраслях созданы аналогичные механизмы управления безопасностью, и надзор за использованием искусственного интеллекта может извлечь уроки из этого накопленного опыта. Он считает, что ключевым моментом является рациональное применение существующих систем оценки рисков, отчетности об авариях и безопасности продукции в области искусственного интеллекта.
В продвижении международных правил искусственного интеллекта Смит особенно оптимистично оценивает роль Великобритании.
Он отметил, что в Великобритании создано агентство, специализирующееся на вопросах безопасности искусственного интеллекта. Первоначально агентство было создано как Научно-исследовательский институт безопасности искусственного интеллекта во время правления бывшего премьер-министра Риши Сунака, а позже было переименовано в Институт искусственного интеллекта (Институт безопасности AI), который отвечает за изучение возможностей и потенциальных рисков передовых систем искусственного интеллекта.
Смит считает, что Великобритания обладает сильным техническим потенциалом в области оценки безопасности искусственного интеллекта, а также имеет условия для развития международного сотрудничества. Он сказал, что если вы спросите людей в технологической отрасли, какая страна лидирует в возможностях технологий безопасности искусственного интеллекта, многие люди без колебаний выберут Великобританию.
Он считает, что у Великобритании есть возможность использовать свои исследовательские возможности и международное влияние, чтобы побудить страны установить более унифицированные правила в отношении безопасности искусственного интеллекта.
Взгляды Смита отличаются от политического направления администрации Трампа, которая делает упор на ускорение развития искусственного интеллекта. Трамп неоднократно заявлял, что тот, кто победит в соревновании по искусственному интеллекту, выиграет будущее. Эта позиция отражает стремление правительства США укрепить лидирующие позиции США в области искусственного интеллекта за счет снижения нормативных барьеров, поощрения бизнес-инвестиций и расширения применения технологий.
Однако Смит не верит, что правительство США однозначно отвергнет возглавляемую Великобританией инициативу по регулированию искусственного интеллекта.
Он отметил, что существуют различия в отношении политических кругов США к Великобритании и ЕС. В Вашингтоне, Великобритании и Лондоне обычно не вызывают такого же уровня политической реакции, как в Брюсселе и институтах ЕС. Смит считает, что эта разница во взаимоотношениях может стать преимуществом в стремлении Великобритании ввести международные стандарты безопасности ИИ.
Он подчеркнул, что существует достаточно сигналов риска, заслуживающих внимания, включая агенты искусственного интеллекта, которые могут выйти из-под контроля человека, и модели, которые достаточно мощны, чтобы представлять угрозу безопасности глобальной сети.
Когда вы видите агентов искусственного интеллекта, находящихся вне контроля человека, когда вы видите модели, достаточно мощные, чтобы поставить под угрозу глобальную кибербезопасность, я бы сказал, что время пришло», — сказал Смит.
Он призвал все стороны занять спокойную, но твердую позицию, как можно скорее начать диалог и способствовать тому, чтобы правительство, предприятия и исследовательские институты совместно сформулировали соответствующие правила. Он также выразил надежду, что Microsoft сможет сыграть свою роль в этом процессе и что Великобритания сможет взять на себя роль содействия международному сотрудничеству.
Следует отметить, что Смит не полностью отрицал ценность саморегулирования отрасли. В конце прошлого месяца Трамп встретился в Белом доме с руководителями таких технологических гигантов, как OpenAI, Anthropic, NVIDIA, SpaceX, Meta и Google. Руководители корпораций на встрече подписали этический документ, соглашаясь сотрудничать с независимыми аудиторами для оценки того, работают ли системы искусственного интеллекта должным образом, а также для обеспечения того, чтобы системы не вторгались в технические системы и не получали доступ к ним непреднамеренным образом.
Настоящий документ призван помочь компаниям, занимающимся искусственным интеллектом, усилить проверки безопасности и выявить потенциальные проблемы посредством независимых оценок. Хотя его обязательная сила отличается от официальных законов и правил, он по-прежнему рассматривается как действие, предпринимаемое технологической отраслью с точки зрения управления безопасностью.
Смит выразил признательность за это заявление и заявил, что Microsoft готова подписать соответствующие документы. Он считает, что это хорошее начало и необходимый шаг.
Однако, по его мнению, полагаться исключительно на такого рода добровольные обязательства уже недостаточно.
Смит отметил, что любая система саморегулирования столкнется с фундаментальной проблемой: ответственные компании обычно готовы соблюдать требования безопасности, но реальную озабоченность вызывают те компании, которым не хватает чувства ответственности и которые не желают активно принимать меры безопасности.
Он считает, что если вся отрасль будет опираться исключительно на добровольные обязательства, компании, соблюдающие правила, могут нести больше затрат, в то время как конкуренты, не желающие вкладывать ресурсы в обеспечение безопасности, могут продолжать быстро расширяться. Таким образом, установление юридически обязательных минимальных стандартов безопасности помогает гарантировать, что все предприятия должны соответствовать основным требованиям.
Это также ключевой вопрос, подчеркнутый Смитом: регулирование искусственного интеллекта должно зависеть не только от того, готовы ли компании взять на себя ответственность, но и должно создать четкую систему, определяющую, какие обязательства по обеспечению безопасности должны выполнять компании и какие действия необходимо предпринять, когда в системе возникают серьезные проблемы.
Поскольку агенты ИИ получают возможность выполнять сложные задачи, вызывать внешние инструменты и получать доступ к техническим системам, традиционные подходы к управлению безопасностью программного обеспечения, возможно, придется адаптировать. Будущая система регулирования должна будет не только обращать внимание на наличие недостатков в самой модели, но также учитывать, какие разрешения искусственный интеллект может получить в реальной работе, к каким ресурсам он может получить доступ и можно ли вовремя приостановить работу при возникновении аномального поведения.
Для Microsoft эта проблема также имеет прямое деловое значение. Microsoft является одновременно важным игроком в области инфраструктуры искусственного интеллекта и модельных приложений, а также крупным поставщиком облачных вычислений и программных услуг корпоративного уровня. Безопасность, надежность и управляемость систем искусственного интеллекта напрямую повлияют на готовность корпоративных заказчиков широко внедрять соответствующие технологии в бизнес-процессы.
Заявление Смита показывает, что даже в технологической отрасли США нет полного консенсуса относительно того, как следует регулировать искусственный интеллект. Некоторые компании и политики надеются максимально снизить ограничения, чтобы ускорить инновации и коммерциализацию; другие полагают, что по мере роста технологических возможностей необходимо одновременно устанавливать более четкие обязанности по обеспечению безопасности и механизмы контроля рисков.
Ключевым моментом в этой дискуссии является не только то, следует ли поддерживать развитие искусственного интеллекта, но и то, как поощрять инновации, обеспечивая при этом, чтобы технологические приложения не создавали неприемлемых рисков для отдельных лиц, бизнеса и общества.
От примеров молока и стиральных машин до механизмов экстренного торможения, отчетов об авариях и независимых оценок послание, которое пытается донести Смит, ясно: технологическое развитие искусственного интеллекта опережает скорость корректировки существующей системы регулирования. Если страны надеются и дальше получать экономические и социальные выгоды от искусственного интеллекта, им необходимо как можно скорее установить правила безопасности, соответствующие их возможностям и рискам.
По его мнению, для решения этой проблемы недостаточно полагаться только на корпоративную самодисциплину. По-настоящему эффективная система регулирования должна не только поощрять ответственные компании к продолжению инноваций, но и сдерживать тех участников, которые не желают активно контролировать риски.
Комментарии