Аннотация:
В феврале 2026 года начальная школа в Минабе, небольшом городке на юге Ирана, в первый день войны подверглась атаке двух ракет «Томагавк». В результате авиаудара погибло более 150 человек, по меньшей мере 123 из них — дети. Внутренний обзорный документ Пентагона показывает, что ключевую роль в трагедии сыграла система наведения искусственного интеллекта, разработанная Palantir.
Следователи обнаружили, что аналитики Центрального командования США почти слепо доверяли системе под названием Maven Smart System.
В то же время ключевая разведывательная записка, которая могла бы исправить фатальный просчет, была заперта в изолированной системе, до которой никому не было дела, и никогда не была доведена до сведения людей, формулировавших план воздушного удара.
Шаг за шагом трагедия, которой можно было избежать, стала реальностью.
Теперь этот разоблаченный документ расследования снова выдвигает в центр внимания пограничный вопрос принятия военных решений с помощью ИИ.
Тройное падение: ИИ, старый интеллект и разорванные цепи
Согласно внутреннему документу, полученному Bloomberg, следователи пришли к выводу, что имело место три перекрывающихся сбоя.
Первый — чрезмерная зависимость от системы ИИ: некоторые пользователи ожидают, что Maven будет автоматически отмечать устаревшие записи или противоречивую информацию, но не могут объяснить, почему система это делает.
Во-вторых, сами данные разведки серьезно устарели. Объект Минаб уже давно внесен в каталог как объект иранского Корпуса стражей исламской революции на основе старой информации.
В итоге численность личного состава, ответственного за проверку целей и предотвращение случайного ранения мирного населения, была значительно сокращена. Три упущения наложились друг на друга, что привело к финальной трагедии.
Ни одно из трех событий не может быть фатальным по отдельности, но когда они происходят одновременно в цепочке принятия решений одной и той же ракеты, результат становится необратимым.
Система Maven: скрытые заботы, стоящие за решениями на уровне минут
Maven Smart System называется «платформой интеграции и таргетинга данных на основе искусственного интеллекта», которая используется для ускорения интеллектуального анализа и принятия решений.
Он может сократить задачу проверки списка целей, на выполнение которой изначально уходило несколько часов, до нескольких минут.
Ценой повышения эффективности является систематическое сжатие процесса проверки, в результате чего для проверки вручную остается все меньше времени и места.
Коммерческие спутниковые снимки уже давно показывают проблему: в 2017 году школьный забор был физически отделен от прилегающей военной базы; в 2018 году на изображениях четко запечатлены красочный забор, футбольное поле и вывески на детской площадке.
Позже Palantir ответил, что компания не несет ответственности за лежащие в основе данные и не несет ответственности за выявление ошибок в разведке.
После авиаударов компания добавила в систему новые функции для повторной проверки основных разведданных и выявления противоречий и неточностей, которые могли быть упущены при проверке вручную. Говорят, что подобные аномалии были обнаружены.
Просто все это произошло слишком поздно.
Для аналитиков, находившихся в то время на передовой, суждения, выдаваемые системой, часто воспринимались как готовые ответы, а не справочная информация, требующая перекрестной проверки.
Забытое примечание: предупреждение, которое так и не пришло
Еще в 2019 году аналитик заметил изменения на объектах Минаба и задокументировал их.
Однако эта запись хранится в системе, которая не связана с основной базой данных военной разведки и действует как информационный остров.
Оно никогда не было передано людям, которые в конечном итоге сформулировали план воздушного налета, как письмо, которое так и не было отправлено.
Что еще более тревожно, так это то, что количество специализированных групп, отвечающих за проверку целей и предотвращение случайных травм среди гражданского населения, за последние годы сократилось примерно на 90%.
Соответствующая группа Центрального командования однажды была сокращена с 10 человек до всего 1 человека, в результате чего некому было проводить окончательную проверку этого объекта перед запуском ракеты.
Технические ошибки носят поверхностный характер. Настоящие лазейки скрыты в человеческом использовании и разработке процессов.
Запись, которую следовало проверить в первую очередь, уже несколько лет тихо спит в трещинах системы.
Загадка ответственности: характеристика военных преступлений и запоздалый ответ
Независимая международная следственная группа Организации Объединенных Наций недавно пришла к выводу, что у Соединенных Штатов есть разумные основания для установления военного преступления «неизбирательного нападения».
В отчете отмечается, что Соединенные Штаты «не приняли всех возможных мер для проверки того, является ли школа военной целью». Это невыполнение долга выходило за рамки простой халатности.
В ответ представитель Пентагона заявил, что «Соединенные Штаты не нападают на гражданское население», но отказался комментировать доклад ООН.
В марте этого года более 120 демократов в Палате представителей США написали министру обороны письмо с вопросом о конкретной роли Maven и других инструментов искусственного интеллекта в этом ошибочном суждении.
Пентагон пока не дал публичного ответа, ссылаясь на продолжающееся расследование.
Этот инцидент отражает более широкую тенденцию: военные и правоохранительные органы все больше полагаются на инструменты искусственного интеллекта, но не имеют соответствующих механизмов проверки и подотчетности.
Настоящей опасностью может быть не сам алгоритм, а человеческая привычка принимать машинные выводы без проверки.
Статьи по теме:
Военные США подготовились к перехвату и проверке китайских кораблей из-за ошибочных разведданных, полученных в результате неправильной оценки ИИ, что едва не привело к международному конфликту.
Комментарии