Резюме:
В четверг федеральный судья США запретил Пентагону внести в черный список компанию Anthropic, занимающуюся искусственным интеллектом. Это последнее событие в остром споре между разработчиком модели Клода и военными США по поводу безопасности искусственного интеллекта на поле боя. Anthropic подала иск в федеральный суд Калифорнии, утверждая, что министр обороны США Пит Хегсет превысил свои полномочия, назвав компанию «риском цепочки поставок национальной безопасности». В соответствии с соответствующими правилами правительство может принять такое решение в отношении компаний, которые могут подвергнуть военные системы риску проникновения или уничтожения враждебными сторонами.
Этот редкий шаг Хегсета ранее не позволял Anthropic получить некоторые военные контракты. Решение было принято после того, как Anthropic отказалась разрешить военным США использовать модель искусственного интеллекта Клода для наблюдения или автономного оружия на территории Соединенных Штатов. Руководители Anthropic заявили, что этот шаг может стоить компании потерянного бизнеса в миллиарды долларов и нанести ущерб ее репутации.
США Окружной судья Рита Лин, назначенная бывшим президентом-демократом Джо Байденом, заявила в 59-страничном постановлении, что решение Пентагона было «незаконным и необоснованным».
Она написала: «Безобидные призывы к национальной безопасности не могут служить неограниченным разрешением наказывать и мстить критикам правительства».
Anthropic приветствовала это решение и заявила в своем заявлении, что компания по-прежнему «сосредоточена на продуктивной работе с правительством над использованием искусственного интеллекта в целях национальной безопасности, чтобы все американцы могли извлечь выгоду из этой технологии».
Пентагон не сразу ответил на запрос о комментариях.
Anthropic считает, что модели искусственного интеллекта еще недостаточно безопасны для использования в автономном оружии; в то же время компания выступает против внутреннего наблюдения, заявляя, что оно нарушает права. Пентагон заявил, что частные компании не должны иметь полномочий ограничивать военные операции.
Включение Пентагона в список — это первый случай, когда правительство США публично включило американскую компанию в список рисков в цепочке поставок в соответствии с малоизвестным постановлением о государственных закупках, призванным защитить военные системы от иностранного саботажа.
В жалобе, поданной 9 марта, компания Anthropic заявила, что ответные меры правительства за его позицию в отношении безопасности искусственного интеллекта нарушили право на свободу слова, гарантированное Первой поправкой к Конституции США. Компания также заявила, что правительство нарушило свои права на надлежащую правовую процедуру, гарантированные Пятой поправкой к Конституции, прежде чем вынести свое решение.
В иске говорилось, что это решение было незаконным, не имело фактической поддержки и противоречило положительному отношению военных к Клоду в прошлом.
Министерство юстиции США в судебных документах возражало, что отказ Anthropic снять соответствующие ограничения может помешать Пентагону определить масштабы использования Клода и может привести к сбою военных систем во время операций.
Правительство заявило, что это открытие связано с отказом Anthropic принять условия контракта, а не с ее взглядами на безопасность искусственного интеллекта.
Anthropic в настоящее время также подает второй иск в Вашингтоне, округ Колумбия, по поводу другого определения рисков в цепочке поставок, сделанного Пентагоном. Это определение может привести к исключению компании из гражданских государственных контрактов.
Комментарии