Аннотация:
Президент Microsoft Брэд Смит недавно в очередной раз призвал страны ускорить регулирование искусственного интеллекта и подчеркнул, что нынешний надзор за компаниями, занимающимися искусственным интеллектом, даже не так силен, как надзор за потребительскими товарами, такими как молоко и стиральные машины. Он считает, что с быстрым развитием возможностей искусственного интеллекта мир достиг критического момента для формулирования единых правил безопасности.
В интервью BBC Podcast Смит назвал искусственный интеллект «одновременно инструментом и оружием». Он сказал, что искусственный интеллект несет новые риски в глобальную среду сетевой безопасности, поэтому необходимо создать международную нормативную базу безопасности и ограничить развитие отрасли с помощью четких правил.
Смит особо отметил, что Великобритания больше подходит для того, чтобы играть ведущую роль, чем США и Европейский Союз, в будущей глобальной системе управления безопасностью с использованием искусственного интеллекта. Он считает, что Британский институт безопасности искусственного интеллекта (AISI) быстро развивался с момента своего создания в 2023 году и стал важной силой в области глобального тестирования безопасности искусственного интеллекта. Агентству удалось получить доступ к новым моделям в передовых лабораториях США и провести независимые оценки безопасности до их официального внедрения.
Однако в последнее время этот статус столкнулся с проблемами. Президент США Дональд Трамп ранее критиковал так называемые «глобалистские» институты, утверждая, что они вмешиваются в деятельность американских компаний. По сообщениям СМИ, в прошлом месяце Трамп попросил Anthropic и OpenAI приостановить предоставление новых моделей британским испытательным учреждениям до тех пор, пока Соединенные Штаты не завершат свою проверку. Но на этой неделе Британский институт безопасности ИИ подтвердил, что он по-прежнему может получить доступ и протестировать модели ИИ последнего поколения.
Несмотря на скептицизм со стороны правительства США, Смит по-прежнему считает, что Великобритания имеет уникальное преимущество. Он сказал, что в глазах принимающих решения кругов в Вашингтоне Великобритания и Лондон не будут рассматриваться как сильные регулирующие силы, как штаб-квартира ЕС в Брюсселе, но это поможет Великобритании играть координирующую роль среди международного сообщества и способствовать консенсусу между всеми сторонами.
Комментарии Смита прозвучали на фоне того, что все больше и больше лидеров технологической отрасли призывают замедлить темпы развития искусственного интеллекта. Генеральный директор Anthropic Дарио Амодей и генеральный директор OpenAI Сэм Альтман, среди прочих, недавно публично выразили обеспокоенность по поводу рисков, связанных с передовым искусственным интеллектом. Многочисленные случаи аномального поведения в системах агентов искусственного интеллекта еще больше усилили обеспокоенность внешнего мира по поводу проблем безопасности.
В октябре этого года Трамп также собрал в Белом доме руководителей OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta и Google, чтобы обсудить вопросы безопасности искусственного интеллекта. Компании, участвовавшие в конференции, подписали так называемое «этически обязывающее» соглашение, взяв на себя обязательство сотрудничать с независимыми аудиторами для оценки возможностей и безопасности моделей искусственного интеллекта.
По мнению Смита, это соглашение является позитивным шагом, однако до сих пор существует разрыв между действительно эффективным надзором. Он отметил, что добровольное саморегулирование отрасли зачастую лишь сдерживает ответственные компании, а реальную озабоченность вызывают те компании, которые не желают соблюдать правила.
Смит также предложил ряд мер безопасности, которые он хотел бы принять. Например, когда в корпоративные системы вторгаются вышедшие из-под контроля агенты искусственного интеллекта, соответствующие ведомства должны взять на себя юридические обязательства по своевременному оповещению; лаборатории искусственного интеллекта должны быть проверены внешними независимыми оценочными агентствами перед выпуском новых продуктов; в то же время отрасли следует также изучить такие механизмы, как «аварийные выключатели», позволяющие приостанавливать или замедлять работу систем искусственного интеллекта, когда люди теряют контроль.
Говоря о будущем направлении управления, Смит призвал все стороны развивать сотрудничество, используя более рациональный и прагматичный подход. Он выразил надежду, что Microsoft сможет стать частью глобального консенсуса, а Великобритания сможет сыграть связующую и лидирующую роль в международной системе управления безопасностью искусственного интеллекта.
Статьи по теме:
Президент Microsoft Брэд Смит: ИИ регулируется еще меньше, чем молоко
Комментарии