Google подписала новое соглашение с Пентагоном об открытии доступа к своим собственным инструментам искусственного интеллекта в своих секретных сетях, разрешая почти все «законные виды использования» после того, как Anthropic отклонила запрос Министерства обороны США на разрешение использования конфиденциальных данных. В многочисленных сообщениях СМИ говорилось, что эта договоренность означает, что Министерство обороны может более широко использовать ИИ Google в секретных средах для анализа разведывательной информации, поддержки принятия решений и других сценариев.
Инцидент был спровоцирован публичной позицией Anthropic против администрации Трампа. Ранее Пентагон хотел использовать модели Anthropic с небольшими ограничениями, включая использование искусственного интеллекта для внутреннего массового наблюдения и автономных систем вооружения, но Anthropic настояла на добавлении в контракт четких «ограждений», запрещающих такое использование. Поскольку Anthropic отказалась сотрудничать с этими вариантами использования, Министерство обороны впоследствии поместило модельную компанию в список «рисков цепочки поставок» — ярлык, обычно предназначенный для организаций, считающихся «иностранными противниками».
Anthropic подала иск в суд по поводу этого обозначения. В марте этого года судья удовлетворил просьбу Anthropic о выдаче временного запрета на определение «риска цепочки поставок» на время рассмотрения дела, временно предотвращая распространение соответствующих административных последствий.
На фоне этого конфликта другие крупные компании, занимающиеся искусственным интеллектом, поспешили воспользоваться этой возможностью, пытаясь превратить «потери» Anthropic в свои собственные «прибыли». OpenAI подписала соглашение с Министерством обороны в кратчайшие сроки. Позже xAI также получил доступ к конфиденциальным сетям, что заставило некоторых членов Конгресса США усомниться в принятии решений Пентагоном. Теперь Google стала третьей компанией, заключившей подобное соглашение с военными, и ее сотрудничество еще больше расширило линейку крупных моделей, доступных для системы обороны США.
По данным Wall Street Journal, текст соглашения Google с Пентагоном также включал формулировку, в которой говорилось, что компания «не намерена» использовать свой ИИ для внутреннего массового наблюдения или автономного оружия, аналогично частям контракта OpenAI. Однако в отчете также отмечается, что все еще существует неопределенность относительно того, являются ли эти положения действительно юридически обязательными и как они будут контролироваться и нести ответственность при фактической реализации.
Стоит отметить, что Google продвигает этот крупный военный заказ, пока внутренняя оппозиция не утихла. На данный момент 950 сотрудников Google подписали открытое письмо, призывающее компанию последовать примеру Anthropic и не продавать возможности искусственного интеллекта Министерству обороны без четких и осуществимых ограничений на использование. Google пока не ответила на совместное письмо и конкретное содержание нового контракта, а также не ответила на запросы СМИ о комментариях.
В условиях быстрого проникновения искусственного интеллекта в сферу общественной безопасности и в военную сферу этот инцидент отражает все более острый конфликт ценностей между технологическими гигантами, правительствами и их собственными сотрудниками. С одной стороны, военные стремятся максимально использовать передовые инструменты искусственного интеллекта для расширения своих возможностей; с другой стороны, некоторые технологические компании и их сотрудники пытаются установить чистую прибыль для применения ИИ в военных целях и безопасности посредством условий контрактов и давления общественного мнения. Решение Google расширить сотрудничество с Пентагоном вместо того, чтобы следовать жесткой позиции Anthropic, еще больше усилило споры вокруг того, «кто должен провести красные линии для использования ИИ».