Аннотация:
Попытка администрации Трампа обеспечить безопасность искусственного интеллекта (ИИ) посредством юридической ответственности подготовила почву для будущих споров о том, кто должен нести убытки, когда модель ИИ выходит из-под контроля: компании, которые разрабатывают эти системы, или пользователи, которые внедряют соответствующие технологии.
Подход, требующий от разработчиков ИИ нести финансовую ответственность за безопасность своих продуктов, поддерживается министром финансов США Скоттом Бессантом и бывшим руководителем ИИ Белого дома Дэвидом Саксом. Они утверждают, что существующие законы об ответственности более эффективны, чем введение новых регулирующих правил. Выступая против новых мер регулирования безопасности ИИ, президент США Дональд Трамп далее заявил, что, если модель ИИ выйдет из-под контроля, вмешаться должно Министерство юстиции.
Последним признаком того, что правительство все больше готово использовать существующие законы для решения проблем безопасности ИИ, недавно созданная Трампом рабочая группа по ИИ предупредила компании-разработчики поздно вечером в пятницу, что они должны сообщать и устранять инциденты безопасности, иначе они рискуют столкнуться с последствиями.
После того как Anthropic PBC сообщила об инциденте безопасности, рабочая группа, известная как «Суперразведывательные силы», опубликовала заявление, в котором говорилось: «Компании должны немедленно сообщать об инцидентах, связанных с их моделями, и действовать быстро и решительно для устранения любого ущерба. Запоздалое раскрытие информации, недостаточные корректирующие действия и отказ принять на себя ответственность недопустимы».
Однако подход администрации Трампа к тому, чтобы сделать подотчетность основой безопасности ИИ, по-прежнему сталкивается со многими неопределенностями. Эксперты по правовым вопросам говорят, что существующих законов о кибербезопасности и ответственности за продукцию может оказаться недостаточно для обеспечения федеральной ответственности за ущерб, причиненный агентами ИИ.
Даже если жертва очевидна, существует несколько юридических прецедентов, которые могут определить, кто должен нести ответственность за ущерб, причиненный вышедшим из-под контроля агентом ИИ, и какие обязанности по обеспечению безопасности должны нести компании при разработке инструментов ИИ. Ситуация еще больше усложняется тем, что на поведение модели влияют как разработчик, так и конечный пользователь, который развертывает систему.
Бен Хайюм, младший научный сотрудник Центра новой американской безопасности, занимающийся исследованиями в области технологий и национальной безопасности, сказал: "Несмотря на продолжающиеся призывы к ясности в отношении ответственности, до сих пор не решено, есть ли у компаний, занимающихся искусственным интеллектом, юридическое обязательство гарантировать, что модели не причинят вреда, и должны ли пользователи нести юридическую ответственность за инструкции, которые они дают моделям".
Поскольку компании ускоряют внедрение технологий искусственного интеллекта, дискуссии об ответственности становятся все более актуальными. Финансовые учреждения Уолл-стрит, розничные торговцы и авиакомпании применяют агентов ИИ для все более широкого спектра бизнес-сценариев, таких как обслуживание клиентов и обработка счетов. Исход этих дебатов может повлиять на популярность ИИ и будущие планы OpenAI и Anthropic, двух лидеров отрасли, по выходу на рынок капитала.
При использовании ИИ-агентов конечные пользователи обычно лишь объясняют цели задачи, но не указывают подробно метод выполнения. Это позволяет агентам ИИ принимать решения, которые не были проверены пользователем, или даже предпринимать вредные действия. При этом до сих пор неясно, должна ли ответственность лежать на разработчике или на пользователе.
Стремление администрации Трампа к подотчетности соответствует ее общей позиции в отношении более мягкого регулирования ИИ. Развитие искусственного интеллекта было важной частью экономической повестки Трампа. После встречи примерно с двумя дюжинами технологических лидеров Кремниевой долины в Белом доме на прошлой неделе Трамп еще раз выразил надежду, что индустрия искусственного интеллекта будет полагаться в основном на саморегулирование, и в то же время запустит не имеющее юридической силы отраслевое соглашение, чтобы побудить компании усилить внутренний контроль безопасности.
В то же время пятничное заявление об обязательном раскрытии проблемы модели показало, что Белый дом готов использовать эту недавно сформированную команду ИИ для обеспечения соблюдения существующих законов. Группу возглавляет директор национальной разведки Джей Клейтон.
С появлением серии тревожных инцидентов, связанных с безопасностью, и широким распространением статьи генерального директора Anthropic Дарио Амодеи, предупреждающей о катастрофических рисках ИИ, дискуссия о том, как снизить риски ИИ, продолжает накаляться.
Для Трампа и его союзников угроза судебных исков призвана подтолкнуть такие компании, как OpenAI и Anthropic, к обеспечению безопасной работы своих систем. «Лучший способ обеспечить безопасность — привлечь авторов к ответственности за то, что они создают и создают», — заявила Бессант на слушаниях в Конгрессе в прошлом месяце.
Комментарии