Соединенные Штаты, Великобритания, Австралия и 15 других стран выпустили глобальные рекомендации, помогающие защитить модели искусственного интеллекта от несанкционированного доступа, призывая компании делать свои модели «безопасными по своей конструкции». 26 ноября 18 стран опубликовали 20-страничный документ, в котором описывается, как компании, занимающиеся искусственным интеллектом, должны решать проблемы кибербезопасности при разработке или использовании моделей искусственного интеллекта, поскольку они заявили, что «безопасность часто является второстепенным фактором» в этой быстро развивающейся отрасли.
Рекомендации в основном включают общие рекомендации, такие как жесткий контроль инфраструктуры моделей ИИ, мониторинг моделей до и после их выпуска, а также обучение сотрудников рискам кибербезопасности.
Но некоторые спорные вопросы в области искусственного интеллекта не упоминаются, в том числе возможные меры контроля за использованием моделей, генерирующих изображения, дипфейков или методов сбора данных, а также их использование в обучающих моделях — вопрос, по которому нескольким компаниям, занимающимся искусственным интеллектом, был предъявлен иск за нарушение авторских прав.
Министр внутренней безопасности США Алехандро Майоркас заявил в своем заявлении: «Мы находимся на переломном этапе в развитии искусственного интеллекта, который вполне может стать самой влиятельной технологией нашего времени. Кибербезопасность является ключом к созданию безопасных, надежных и заслуживающих доверия систем искусственного интеллекта».
Эти руководящие принципы следуют за другими межправительственными инициативами по оценке ИИ, включая саммит по безопасности ИИ, проведенный правительствами и компаниями ИИ в Лондоне в начале этого месяца для координации соглашений по развитию ИИ.
Тем временем Европейский Союз прорабатывает детали своего законопроекта об искусственном интеллекте, который будет обеспечивать надзор в этой области, а президент США Джо Байден в октябре издал указ, устанавливающий стандарты безопасности и защиты ИИ – хотя против обоих распоряжений выступила индустрия ИИ, которая утверждала, что они могут подавить инновации.
В число других стран, подписавших новое руководство «Безопасно благодаря дизайну», входят Канада, Франция, Германия, Израиль, Италия, Япония, Новая Зеландия, Нигерия, Норвегия, Южная Корея и Сингапур. Компании, занимающиеся искусственным интеллектом, включая OpenAI, Microsoft, Google, Anthropic и ScaleAI, также внесли свой вклад в разработку рекомендаций.