Только что Ультрачеловек похвастался: Мы подписали контракт с Пентагоном, и наш доход превышает 20 миллиардов. В одночасье OpenAI подвергся критике со стороны тысяч людей, и по всей сети прокатилась волна деинсталляции ChatGPT! Вчера Ultraman объявил о сотрудничестве с Министерством обороны США (теперь переименованным в Министерство войны, DoW).
Anthropic отвергает использование ИИ для крупномасштабного цифрового наблюдения и автоматического оружия, а OpenAI усугубляет ситуацию и быстро берет на себя аналогичные контракты.
Напротив, OpenAI совершенно бесстыден. В Соединенных Штатах спонтанно началось движение за удаление/отмену ChatGPT, которое имело огромный успех и популярность!
OpenAI первой объявила подробности сотрудничества, пытаясь восстановить свою репутацию, но общественное мнение резко возросло. Альтман и другие руководители OpenAI ответили на соответствующие вопросы онлайн в режиме реального времени, и более 6 миллионов пользователей сети посмотрели:
Не все сотрудники OpenAI согласны с таким сотрудничеством, но Ультрамен и другие слишком смущены и слишком обеспокоены. Ультрачеловек откровенно сказал: «Я не знаю, как с этим покончить».
Они думали, что они умные, но открыли ящик Пандоры своими руками, превратив ИИ из человека-помощника в оружие войны.
Но, конечно, OpenAI не единственный, кто это делает.
На фоне внутренних и внешних неприятностей сотрудники OpenAI раскрывают свое прошлое
После того, как Трамп заблокировал Anthropic, он сразу же завоевал симпатии и поддержку общественности, в том числе исследователей искусственного интеллекта из таких гигантов искусственного интеллекта, как OpenAI и Google.
Чтобы развеять внутренние и внешние сомнения, соответствующие руководители OpenAI заявили:
(Сумма сделки между OpenAI и Министерством обороны США) составляет всего несколько миллионов долларов, что незначительно по сравнению с нашим годовым доходом, составляющим более 20 миллиардов долларов США. Это определенно не стоит вызванных этим споров в сфере связей с общественностью.
Мы делаем это, потому что это правильно для страны, ценой огромных затрат для нас самих, а не для доходов.
На этот раз OpenAI, похоже, взяла кунжут и потеряла арбуз, и выигрыш полностью перевешивает потерю!
На самом деле многие считают, что это «подписное письмо» OpenAI в Белый дом:
Стратегическая ценность избрания в правительство США намного превышает любую сумму в долларах, указанную в контракте. Несколько миллионов долларов могут помочь вам завоевать титул «Американской компании искусственного интеллекта» накануне IPO на триллион долларов.
Посредством этого контракта с Министерством обороны основная цель OpenAI — быть глубоко привязанной к правительству США для получения потенциальных преимуществ и выгод!
Это не первый раз, когда OpenAI идет на компромисс ради прибыли.
Некоторые сотрудники OpenAI уже разглядели истинную природу — они проголосовали ногами и покинули OpenAI.
Это не просто сантименты, это голосование за ценности.
01
19-летний гениальный сотрудник в гневе увольняется с работы
Вначале он присоединился к OpenAI, полный идеалов, не для того, чтобы создавать оружие, а потому, что он верил, что OpenAI стремится развивать ИИ, который может принести пользу всему человечеству…
Вместо того, чтобы воспользоваться преимуществами Anthropic и стать «подрядчиком по вооружению», пришедшим им на смену после того, как они были внесены в черный список за следование своим принципам.
И ситуация хуже, чем он думал:
OpenAI позволяет Министерству обороны использовать свои модели «для всех законных целей».
«Законность» — это суть, а не совесть. совестьНужен более высокий порог.
Итак, на этот раз он полностью сломал бдительность и его мечта разбилась:
Альтман говорит, что гарантия безопасности реальна.
Может быть. Но я снова и снова видел обещания этой отрасли.
Он видел, как «мы никогда» не станем «при определенных обстоятельствах», а затем «правительство в принципе согласилось».
«Мы никогда не будем разрабатывать независимое оружие». «Мы никогда не будем участвовать во внутренней слежке».
Это были также красные линии, которых придерживалась Anthropic, и именно потому, что они придерживались этих практических показателей, их назвали «риском национальной безопасности».
Модель искусственного интеллекта OpenAI развернута в конфиденциальных военных сетях, и трудно сказать, для чего в конечном итоге будут использоваться эти конфиденциальные сети: «Я не знаю, вы не знаете. Ультрачеловек тоже не знает».
Эта неопределенность является ключевой, и 19-летний парень не может с этим смириться и надеется провести свое будущее время там, где ему не нужно будет искать эти ужасные ответы.
Итак, он принял должность в Anthropic.
Что это значит, он прекрасно знает:
Сейчас Anthropic занесены в черный список, вовлечены в судебные процессы и борются с правительством, которое называет их «левыми сумасшедшими», потому что они считают, что люди должны контролировать оружие.
Именно поэтому он присоединился к Anthropic.
Некоторые вещи важнее контрактов.
02
Бывший сотрудник OpenAI раскрывает секреты
Сара Шокер, старший научный сотрудник в области человеческого искусственного интеллекта в Лаборатории рисков и безопасности Беркли Калифорнийского университета в Беркли и бывший руководитель группы геополитики OpenAI, предоставила ценные наблюдения, полученные из первых рук, внутри группы политики OpenAI.
Проработав около трех лет в команде OpenAI по геополитике, она перешла в две другие команды, прежде чем окончательно решила уйти в июне 2025 года.
Как исследователя, ее часто просили дать «отзывы» о политике военного использования.
За последние пять лет она несколько раз наблюдала, как OpenAI обновляет свою политику использования.
В 2021 году, когда она впервые присоединилась к компании, OpenAI полностью запретила использование искусственного интеллекта в военных целях.
В 2024 году этот запрет изменится. Но формулировка новых правил, «мягко говоря, расплывчата и уклончива».
То, что она хочет спросить на этот раз, очень просто: OpenAI, пожалуйста, не будьте расплывчатыми и поверхностными для всех и для сотрудников.
Давайте сразу перейдем к недавнему отчету Bloomberg, в котором говорится, что модели OpenAI используются в испытаниях роя дронов.
12 февраля представитель OpenAI сообщил Bloomberg, что в испытаниях, проводимых Отделом оборонных инноваций и Группой автономных операций обороны для создания роев дронов, они использовали модели с открытым исходным кодом и должны были соблюдать политику использования компании.
Оказывается, эту политику использования можно интерпретировать по-разному, в зависимости от того, считаете ли вы, что использование голосово-цифровых инструментов ИИ в цепочке уничтожения эквивалентно помощи в создании оружия, или считаете ли вы, что модель ИИ можно рассматривать отдельно от ее более крупной системы вооружения.
Какие выводы мы, как общественность, должны сделать из таких заверений?
Общественности необходимо внимательно следить за публичной информацией, публикуемой передовыми компаниями в области искусственного интеллекта.
Совет: обратите особое внимание, когда компания утверждает, что ее технология не используется в «наступательных» или «кинетических» целях.
В 2018 году Google применил аналогичный пиар-трюк, когда обсуждал контракт на смарт-дроны Project Maven.
Project Maven может идентифицировать противников, собирая данные с дронов и спутниковых датчиков.
В то время Google заявила, что ее программное обеспечение для обнаружения объектов «не является оскорбительным».
Одна из интерпретаций заключается в том, что это была попытка подавить критику со стороны сотрудников и общественности.
Другая интерпретация заключается в том, что это серьезное непонимание характеристик распределенной мощности людей и машин, работающих вместе на войне.
Их называют автономными системами вооружения. В системе оружия ИИ деталью с наименьшим количеством компонента ИИ является сам спусковой крючок.
Теперь OpenAI приняла формулировку «для всех законных целей», запрошенную военным министерством, и американские военные применили воздушные удары по Клоду!
Больше всего от всего этого проигрывают обычные люди и мирные жители в зонах конфликтов.