Аннотация:
Американская компания, занимающаяся искусственным интеллектом, Anthropic продвигает законопроект о регулировании безопасности передовых систем искусственного интеллекта, надеясь установить четкие юридические правила для разработки, тестирования и внедрения передовых моделей искусственного интеллекта. Согласно сообщению американского сайта политических новостей Politico от 16 октября 2026 года, Anthropic в частном порядке представила этот законопроект некоторым законодателям на Капитолийском холме. План пытается установить границу между предотвращением серьезного вреда, который может нанести продвинутый ИИ, и предотвращением чрезмерного вмешательства правительства в технологические исследования и разработки.
Согласно отчету Politico, цитируемому Reuters, законопроект предусматривает, что только в том случае, если считается, что передовая модель искусственного интеллекта представляет значительные предсказуемые и неизбежные риски, правительство США может предотвратить выпуск или использование модели посредством судебного разбирательства. Соответствующие риски должны соответствовать определенным пороговым значениям, включая возможность причинить убытки, превышающие 1 миллиард долларов, или привести к гибели или серьезным травмам более 50 человек.
Это означает, что законопроект не дает правительству права произвольно вмешиваться во все передовые системы искусственного интеллекта, но пытается ограничить приостановку выпуска или использования моделей несколькими серьезными ситуациями. В проекте основное внимание уделяется трем типам рисков: использованию искусственного интеллекта для создания или выпуска биологического оружия, выходу систем ИИ из-под контроля разработчиков и использованию ИИ для осуществления кибератак.
Следует отметить, что это все еще законопроект, представленный законодателям компанией Anthropic, а не уже принятый закон США. Его окончательное содержание, полномочия регулирующих органов и будет ли Конгресс продвигать законопроект, еще предстоит обсудить.
В проекте также предлагается создать механизм независимой оценки. Согласно сообщениям, передовые разработчики ИИ и их модели должны проходить регулярные независимые оценки для проверки возможностей модели, мер безопасности и потенциальных рисков. Оценщики должны зарегистрироваться в Министерстве торговли США и проводить постоянную работу по проверке безопасности.
Согласно предлагаемому плану, компании, занимающиеся искусственным интеллектом, могут платить гонорары независимым оценочным агентствам, однако вознаграждение не должно быть привязано к результатам оценки. Это положение призвано снизить вероятность того, что оценщики будут преуменьшать риски в интересах финансирующих компаний, одновременно позволяя компаниям использовать внешние профессиональные агентства для проведения технических проверок.
Если оценщик определит, что передовая модель искусственного интеллекта представляет неизбежный значительный риск, как это определено в Законе, он должен сообщить об этом Министерству торговли США в течение 72 часов после завершения оценки. Такие временные требования призваны не допустить длительного пребывания серьезных рисков на предприятии без своевременного вступления в процесс государственного регулирования.
Что касается полномочий государственного вмешательства, в проекте установлены относительно строгие ограничения. После определения того, что риск достигает правовых стандартов, Министерство торговли США может обратиться в суд с просьбой приостановить выпуск или использование модели, но другим федеральным ведомствам, правительственным учреждениям и должностным лицам не разрешается самостоятельно останавливать разработку, внедрение или внутреннее использование моделей ИИ.
Окончательное решение о приостановке действия модели будет принимать судья Окружного суда США по округу Колумбия. Другими словами, согласно этому проекту, регулирующие органы не могут напрямую запретить модель, основанную только на административном решении, а должны добиваться вмешательства через судебные процедуры.
Эта институциональная конструкция призвана решить две взаимосвязанные проблемы. С одной стороны, правительство должно иметь возможность бороться с системами искусственного интеллекта, которые могут привести к массовым жертвам или экономическим потерям; с другой стороны, если правительство может остановить использование модели в любой момент по общим или неясным соображениям безопасности, компаниям может быть сложно предсказать регуляторные риски, с которыми сталкиваются НИОКР и запуск новых продуктов.
Закрепление в законе пороговых значений вмешательства, сроков отчетности и процедур судебного одобрения может сделать регулирующие органы более понятными. Однако вопрос о том, достаточен ли этот механизм для борьбы с быстро меняющимися рисками ИИ после фактической эксплуатации и является ли порог высоких потерь и жертв слишком строгим, останется важным вопросом в законодательных дискуссиях.
Представитель Anthropic сообщил агентству Reuters, что этот законопроект отражает некоторые политические предложения «Advanced AI Framework», ранее предложенные компанией. Компания надеется принять закон, который даст правительствам возможность предотвращать развертывание наиболее опасных передовых систем искусственного интеллекта, требуя при этом от разработчиков проводить тестирование безопасности, повышать прозрачность и принимать независимые оценки.
В этом году Anthropic продвигает создание более систематического механизма контроля безопасности для передовых систем искусственного интеллекта. В компании считают, что по мере расширения возможностей модели разработчикам уже недостаточно судить о безопасности продукта в одиночку, необходимо вводить внешнюю оценку и государственный надзор.
Эта позиция также отражена в недавно объявленных соглашениях о независимой оценке Anthropic. Компания начала разрешать шести исследователям некоммерческой исследовательской организации METR получать внутренний доступ, как и сотрудники компании, для более глубокого изучения невыпущенных моделей и процесса оценки безопасности компании. В Anthropic заявили, что оценщики могут публично публиковать выводы своего исследования, и компания не может напрямую отклонить его отчет, но может потребовать удаления конкретного контента, включающего данные клиентов, архитектуру модели и юридически конфиденциальную информацию.
Эта договоренность имеет общее направление с предложенным законопроектом: безопасность продвинутого искусственного интеллекта не должна быть оставлена исключительно на усмотрение разработчиков, но необходимо, чтобы независимые агентства участвовали в оценке и делали важные выводы, открытые для внешней проверки. Однако все же существует разница между сторонними оценками, проводимыми предприятиями добровольно, и обязательными требованиями законодательства. Конкретный объем и полномочия первого зависят от договоренности между компанией и агентством по оценке, тогда как второй может устанавливать единые минимальные требования для всей отрасли.
В основе этого законопроекта лежит то, что американское общество все больше обеспокоено рисками, связанными с передовыми системами искусственного интеллекта. Поскольку ИИ способен выполнять все более сложные задачи, риски не ограничиваются генерацией неверной информации, но также включают помощь в создании биологического оружия, проведении кибератак и выполнении операций, превосходящих ожидания разработчика, после достижения высокого уровня автономности.
В последнее время многие компании, занимающиеся искусственным интеллектом, выявили случаи ненормального поведения моделей во время тестирования или реальной эксплуатации. Федеральная торговая комиссия США также направила гражданские повестки таким компаниям, как OpenAI и Anthropic, с просьбой предоставить материалы, связанные с инцидентами, связанными с безопасностью потребителей. Регулирующие органы расследуют, ведут ли системы искусственного интеллекта обманчивое, оскорбительное или несанкционированное поведение и какие меры компании принимают для предотвращения таких проблем.
Эти инциденты поставили надзор за безопасностью ИИ под более реалистичное давление. В прошлом дискуссии о рисках, связанных с передовым искусственным интеллектом, обычно сосредотачивались на возможных экстремальных сценариях в будущем; теперь, когда агенты ИИ получают доступ к сетям, управляют программным обеспечением и выполняют многоэтапные задачи, регулирующим органам также необходимо решать актуальные проблемы безопасности, которые уже возникли.
Однако определить «неизбежный значительный риск» по-прежнему очень сложно. Возможности моделей ИИ могут меняться в зависимости от среды развертывания, доступных инструментов и методов использования пользователей, а потенциальный ущерб может быть неточно определен количественно. Модель может иметь серьезные последствия при определенных условиях, но быть менее рискованной в других условиях. Регулирующим органам и судам необходимо будет оценить, является ли риск достаточно конкретным, достаточно ли высока вероятность его возникновения и является ли приостановка действия модели необходимой и целесообразной мерой.
Пороги экономического ущерба и потерь, предусмотренные в проекте, обеспечивают количественные стандарты для таких решений, но не устраняют всех споров. Например, то, как следует рассчитывать убытки, превышающие 1 миллиард долларов, должны ли риски быть связаны с самой моделью и нужно ли объединять и оценивать несколько взаимосвязанных событий, — все это может стать юридическими проблемами в ходе будущей реализации.
Кроме того, законопроект централизует полномочия государственного вмешательства в Министерстве торговли США и требует подачи заявления о приостановлении действия через федеральные суды. Такая договоренность помогает ограничить возможность принятия отдельными правительственными ведомствами отдельных действий, но это также означает, что регулирующим органам необходимо завершить такие процедуры, как оценка, отчетность и судебные заявления после обнаружения рисков. В условиях быстро развивающихся технологий вопрос о том, как процедуры могут сбалансировать осмотрительность и скорость реагирования, станет важным испытанием проектирования систем.
В настоящее время Anthropic публично не объявила о том, что этот проект был официально предложен членами Конгресса или вступил в процесс законодательного рассмотрения. Министерство торговли США не сразу ответило на запрос о комментариях. Поэтому неясно, получит ли это предложение межпартийную поддержку, будет ли оно пересмотрено в ходе обсуждений в Конгрессе и поддержат ли другие разработчики ИИ аналогичные правила.
С точки зрения отрасли компания Anthropic выступила с инициативой представить законопроект законодателям, что отражает тенденцию участия компаний, занимающихся искусственным интеллектом, в формулировании отраслевых нормативных правил. Предприятия не только надеются, что правительство сможет справиться с экстремальными рисками, но также надеются, что нормативные стандарты будут иметь четкие границы, чтобы предотвратить перерастание надзора за безопасностью в административное вмешательство, в котором отсутствуют единые стандарты.
Однако планы регулирования, предлагаемые компаниями, также должны подвергаться внешней проверке. Строгие пороговые значения вмешательства могут защитить нормальную деятельность в области НИОКР, но могут также затруднить введение надзора за некоторыми серьезными рисками, которые еще не достигли количественных стандартов; независимая оценка может повысить прозрачность, но независимость, профессиональные возможности и права доступа к информации агентства по оценке также повлияют на конечный результат.
Поэтому суть этого законопроекта заключается не просто в том, чтобы потребовать от компаний, занимающихся ИИ, проводить испытания на безопасность, но и в том, чтобы попытаться прояснить три вопроса: кто будет оценивать риски передового ИИ, какой уровень риска достаточен для вмешательства правительства и какие процедуры правительство должно пройти, чтобы приостановить выпуск или использование моделей.
Если соответствующий план, наконец, войдет в законодательный процесс, передовой надзор за использованием искусственного интеллекта в США может перейти от корпоративных добровольных обязательств и децентрализованной политики безопасности к механизму надзора с едиными правовыми стандартами. Однако до тех пор, пока проект не будет официально представлен, рассмотрен Конгрессом и не станет законом, он по-прежнему остается всего лишь политическим планом, предложенным Anthropic, и его нельзя рассматривать как создание в Соединенных Штатах новой системы регулирования безопасности ИИ.
Комментарии