Аннотация:
Компания, занимающаяся искусственным интеллектом, Anthropic, недавно в частном порядке представила законопроект о безопасности искусственного интеллекта законодателям США в попытке создать на федеральном уровне нормативную базу для передовых моделей ИИ. Согласно предложению, если будет установлено, что модель ИИ имеет предсказуемый и неизбежный катастрофический риск, который может привести к гибели или серьезным травмам более 50 человек или нанести материальный ущерб на сумму более 1 миллиарда долларов, ее выпуск и использование могут быть заблокированы.
По разглашенной информации, законопроект не затрагивает все приложения искусственного интеллекта, а фокусируется на наиболее продвинутых «передовых моделях». Предложение устанавливает четкий порог для вмешательства, и только в ситуациях крайнего риска регулирующие органы могут инициировать судебные разбирательства по ограничению использования модели.
Риски, перечисленные в проекте, в основном касаются трех направлений: содействие созданию или выпуску биологического оружия, выход моделей из-под контроля разработчиков и масштабные кибератаки, в которых участвуют модели или продвигаются ими. Только когда возникнут риски, связанные с этими конкретными сценариями, будут задействованы механизмы регулирования.
Следует отметить, что стандарты риска, предложенные Anthropic, аналогичны законопроекту Сената № 53, ранее принятому Калифорнией, США. Последний также определяет ситуации, которые могут привести к большому количеству жертв или огромным экономическим потерям, как «катастрофические риски».
Что касается конкретного механизма реализации, законопроект предлагает создать независимую систему оценки, зарегистрированную и управляемую Министерством торговли США. Эти агентства или эксперты по оценке несут ответственность за проведение оценок безопасности передовых моделей ИИ и компаний-разработчиков, а также за определение того, представляют ли соответствующие модели значительные риски.
Согласно проекту соглашения, даже если оценочное агентство получает оплату от ИИ-компании, такое партнерство все равно допускается до тех пор, пока оплата не связана напрямую с результатами оценки. Однако эта договоренность также вызвала сомнения у некоторых инсайдеров отрасли, которые считают, что независимость и объективность агентства по оценке могут столкнуться с проблемами.
Если оценщики определят, что модель представляет собой неизбежный катастрофический риск, они должны сообщить об этом Министерству торговли США в течение 72 часов после завершения оценки. Затем Министерство торговли могло бы обратиться в федеральный суд в Вашингтоне, округ Колумбия, с просьбой назначить судью мораторий на выпуск или внедрение модели.
В отличие от некоторых планов регулирования, в предложении Anthropic особо подчеркивается, что административные органы не имеют полномочий в одностороннем порядке останавливать модели. Согласно проекту, только федеральный судья мог в конечном итоге объявить мораторий. Другими словами, ни одно правительственное ведомство не может напрямую запретить модели ИИ выходить в Интернет или использовать ее, минуя судебные процедуры.
Anthropic не раскрывает публично окончательную версию законопроекта, но представитель компании подтвердил, что проект действительно существует, и заявил, что его основные идеи вытекают из «Продвинутой структуры искусственного интеллекта», предложенной ранее в этом году. Структура выступает за более тщательное тестирование, большую прозрачность и внедрение независимых сторонних механизмов оценки для самых мощных систем искусственного интеллекта.
Поскольку возможности искусственного интеллекта продолжают улучшаться, в технологической отрасли США и регулирующих органах также накаляются дебаты по вопросам безопасности ИИ. Сторонники считают, что план, предложенный Anthropic, обеспечивает четкие процедуры и правовую основу для вмешательства правительства в сферу искусственного интеллекта высокого риска; в то время как критики полагают, что чрезмерный порог вмешательства и зависимость от механизмов самооценки отрасли могут затруднить полное реагирование на более сложные риски искусственного интеллекта в будущем.
В настоящее время это предложение находится на стадии обсуждения, еще официально не вынесено на рассмотрение Конгресса США и не имеет юридической силы. Однако, поскольку это один из первых планов федерального регулирования, активно предложенный крупными компаниями, занимающимися искусственным интеллектом, ожидается, что его содержание окажет важное влияние на будущие дискуссии по законодательству в области искусственного интеллекта в Соединенных Штатах.
Комментарии