Часть 4. Автономный в поле – палач, а не воин.
Возвращаясь к директиве Пентагона №3000.09, которую приняли в 2012 году, хотел бы отметить один факт – после выхода этой директивы в армии США началось широкое тестирование автономных беспилотных и роботизированных комплексов, с частичным использованием ИИ, в зонах локальных конфликтов малой интенсивности боевых действий (Афганистан, Сирия и др.).
К тому же развитие боевого ИИ шло параллельно с другой программой – развитие беспилотных систем, которым изначально отводилось выполнение задач по оперативной разведке и доразведке. С появлением в зоне боевых действий  ударных беспилотников MQ-1 Predator и MQ-9 Reaper добавилась ещё одна задача – поиск и уничтожение отдельных целей.
Отсутствие комплексов ПВО у противника стала мотивацией появление полуавтономных и автономных беспилотников, которые стали часто применятся в «охоте за головами». Естественно в таких операциях были громкие успехи такие как, ликвидация Усамы бен Ладена и Кассема Сулеймани, но так же были и провалы, про которые в США принято говорить как о «досадных ошибках».
Так, за 20 лет «войны с террором» в результате действий США погибло более 387 000 мирных жителей. Только «ошибочные» удары беспилотников в Афганистане, Пакистане, Сомали и Йемене с 2004 по 2020 год унесли жизни более 2000 мирных жителей, в том числе свыше 500 детей.
Хотя официальные заявления часто описывают эти инциденты как «досадные ошибки», рассекреченные документы и журналистские расследования рисуют более сложную картину, включая системные проблемы:
Неверные разведданные: Многие удары основывались на ненадежной разведывательной информации или поспешных решениях. Например, операторы могли получать указание от «агента» (сотрудника разведки или спецназа), чьи данные впоследствии оказывались ошибочными.
Неверная оценка ситуации: Операторы беспилотников не находятся на поле боя, что может влиять на их восприятие ситуации и порог принятия решений, ставя под сомнение соблюдение принципов соразмерности и различия.
Автоматизация предвзятости (Automation Bias): Система ИИ, такая как Project Maven, которая изначально позиционировалась как инструмент для снижения потерь среди мирного населения за счет повышения точности обработки развединформации.
Однако, как показал анализ ошибок, операторы склонны чрезмерно доверять рекомендациям алгоритма и предоставляемым им данным, что делает контроль со стороны человека формальным и ведет к трагическим последствиям, когда ИИ допускает ошибку.
Таким образом, проблема «ошибок» американских беспилотников при атаке по гражданским целям в Афганистане и Сирии носила системный характер. Потому что она была связана не только с несовершенством информационных технологий, но и с качеством разведданных, процедурами принятия решений и, как ни парадоксально, с попытками полагаться на ИИ для решения и исправления этой же самой проблемы.
Однако, по американской традиции, автономное боевое применение беспилотников в связке с ИИ было признано успешным, с рекомендацией последующего совершенствования информационных технологий.