Министерство обороны США поздно вечером во вторник по местному времени заявило, что «красные линии», установленные компанией искусственного интеллекта Anthropic в отношении использования ее технологий, сделали компанию «неприемлемой угрозой национальной безопасности». Это был первый официальный ответ департамента на иск, поданный компанией по поводу определения «риска цепочки поставок». Это произошло после того, как министр обороны Пит Хегсет в прошлом месяце классифицировал Anthropic как организацию, имеющую «риск цепочки поставок», и Anthropic обратилась в суд с просьбой временно запретить Министерству обороны применять этот ярлык.
В 40-страничном иске, поданном в федеральный суд Калифорнии, Министерство обороны заявило, что его основная проблема заключается в том, что, если Anthropic посчитает, что использование в военных целях нарушает корпоративные «красные линии» компании, компания может «попытаться деактивировать свою технологию или упреждающе изменить поведение модели до или во время боевых действий». В Минобороны полагают, что эта неопределенность может напрямую повлиять на степень надежности и управляемости этой технологии в военных операциях.
Информация показывает, что прошлым летом Anthropic подписала контракт с Пентагоном на 200 миллионов долларов, предполагающий внедрение своей технологии искусственного интеллекта в секретные системы. В ходе последующих переговоров об условиях контракта Anthropic заявила, что не хочет, чтобы ее система использовалась для массовой слежки за американцами, и считает, что технология пока не подходит для прямого использования при выборе цели или принятии решений об стрельбе из смертоносного оружия. В Пентагоне подчеркнули, что частные компании не должны иметь последнее слово в том, как военные используют технологии, а разногласия между двумя сторонами в границах применения технологий стали достоянием общественности.
После того, как Министерство обороны классифицировало Anthropic как «риск цепочки поставок», это вызвало критику со стороны многих сторон. Многие организации отметили, что Пентагон мог бы выразить свою позицию, расторгнув контракт, не прибегая к использованию более смертоносного инструмента идентификации рисков в цепочке поставок. Сотрудники многих технологических компаний, включая OpenAI, Google и Microsoft, а также нескольких групп по защите прав, подали в суд заявления «amicus curiae», чтобы публично поддержать позицию Anthropic.
В иске Anthropic обвиняет Министерство обороны в нарушении его прав, предусмотренных Первой поправкой закона, утверждая, что правительство наказывает компании на основе идеологических позиций. Компания утверждает, что компании имеют право выражать свои взгляды на этические границы своих технологий и устанавливать соответствующие ограничения, и их не следует называть угрозой безопасности из-за различий в ценностях с правительством.
В настоящее время суд назначил слушание по предварительному ходатайству Anthropic о судебном запрете на следующий вторник. На момент публикации Anthropic публично не отреагировал на последний документ Министерства обороны.
Похожие статьи:
Anthropic просит апелляционный суд остановить вывод Пентагона о рисках для ее цепочки поставок