Сэм Альтман, генеральный директор американской компании по искусственному интеллекту OpenAI, недавно заявил во внутренней служебной записке для сотрудников, что компания будет придерживаться той же «красной линии», что и ее конкурент Anthropic, когда дело доходит до потенциального сотрудничества с Министерством обороны США (Пентагон): отказываясь разрешить использование своей собственной технологии искусственного интеллекта для массового наблюдения или полностью автономных систем летального оружия.
Альтман подчеркнул в записке, что OpenAI не будет предоставлять техническую поддержку для крупномасштабного наблюдения и не будет участвовать в разработке систем вооружения, которые могут автономно определять смертельные удары. Это полностью соответствует итоговому результату, на котором Anthropic настаивала на предыдущих переговорах с Пентагоном. Отказ Anthropic пойти на уступки в отношении двух вышеупомянутых типов использования привел к громкой игре с высокими ставками с Министерством обороны США.
Это заявление ставит планы Пентагона в области военного ИИ перед новой неопределенностью. Ранее большая языковая модель Claude от Anthropic была первой, которая была интегрирована в некоторые из наиболее важных бизнес-сценариев вооруженных сил США, и рассматривалась как важный шаг Министерства обороны по содействию военизированному применению передовых технологий искусственного интеллекта. Теперь, если OpenAI и Anthropic сохранят последовательность в ключевых этических границах, а другие ведущие компании, такие как Google, последуют аналогичной позиции, Пентагон столкнется с большим сопротивлением переговорам и приобретению технологий при поиске альтернатив, особенно при развертывании крупных моделей общего назначения в высокочувствительных военных миссиях.
Технические и этические дебаты вокруг военного ИИ обостряются между технологическими компаниями США и правительственными ведомствами. С одной стороны, Министерство обороны США надеется использовать общий искусственный интеллект для улучшения анализа разведывательных данных, возможностей боевого управления и принятия решений на поле боя и даже для изучения автоматизированных приложений более высокого уровня; с другой стороны, многие ведущие компании, занимающиеся искусственным интеллектом, ищут баланс между бизнес-возможностями и этической ответственностью, пытаясь ограничить распространение технологий в таких чувствительных областях, как массовое наблюдение и автономное смертоносное оружие, путем установления «красных линий».
Заявление Альтмана рассматривается как четкая позиция еще одного ключевого игрока в отношении итогов военного ИИ после того, как разногласия между Пентагоном и Anthropic стали достоянием общественности. В условиях высококонцентрированной индустрии искусственного интеллекта в США, если основные компании достигнут консенсуса по этическим границам, это глубоко повлияет на путь и темпы будущего приобретения и развертывания военными возможностей общего искусственного интеллекта. Это также может способствовать дальнейшим дискуссиям и играм в Соединенных Штатах по вопросам надзора за военным ИИ и международным правилам.
Похожие статьи:
Anthropic готовится выйти из оборонного контракта на 200 миллионов долларов, министр обороны США угрожает заставить поделиться технологиями
Министерство обороны США установило публичный срок для неограниченного использования инструментов антропного искусственного интеллекта