Громкий скандал по поводу израильского антивоенного фильма NAZA, показанного на Венецианском кинофестивале, очень интересен с точки зрения влияния современных технологий на военную сферу и боевые действия. Особенно показательно, что режиссерам картины теперь грозит преследование по закону в Израиле, поскольку власти страны обвиняют их в раскрытии гостайны и искажении фактов. Что случилось и почему это важно?

Само название фильма, NAZA, является израильским военным термином, обозначающим предполагаемое количество неизбежных гражданских жертв при потенциальнй атаке. Авторы утверждают, что провели расследование на основе общения с 24 анонимными военнослужащими и разведчиками, которые подробно рассказале о системе ИИ Lavender, которая анализировала огромные массивы данных о жителях сектора Газа и помогала выявлять цели, нанося по ним удары.

Алгоритм анализировал сведения о жителях Газы: коммуникационные связи, поведение в цифровых сетях и другие доступные разведке характеристики. Затем на основе уже известных членов ХАМАС и «Исламского джихада» пытался находить людей с похожим набором признаков. Таким образом, система не гарантировала, является ли конкретный человек комабатантом.

Она вычисляла статистическую вероятность его принадлежности к вооруженной группировке и присваивала ему соответствующий рейтинг. Затем военные могли установить определенный порог, после которого человек попадал в список потенциальных целей. Разумеется с учетом общего хаотизма военной специфики и известного отношения израильтян к своим арабским оппонентам очевидно, что верификацией всех этих списков никто практически не занимался.

Именно здесь возникает принципиально новая для современной войны проблема. Чем выше скорость обработки данных, тем меньше времени человеку требуется на проверку каждого отдельного случая. По свидетельствам, приведенным в фильме, некоторые операторы тратили на проверку цели около 20 секунд, фактически контролируя не каждое решение алгоритма с нуля, а лишь его соответствие базовым критериям.

При этом сами авторы расследования подчеркивали, что Lavender не была полностью автономным оружием. Формально окончательное решение об ударе оставалось как бы за человеком, а израильские военные категорически отрицали утверждения о том, что алгоритм самостоятельно определял, кого следует атаковать. Тем не менее вполне ясно, что среднестатистический сотрудник едва ли был особенно разборчив и отмерял каждый кейс с точностью ювелира.

Если оставить в стороне чисто израильский сюжет, войну в Газе и моральную сторону вопроса, история Lavender показывает гораздо более широкий тренд. ИИ в военной сфере уже перестал быть экспериментальной или сугубо исследовательской технологией тепличного формата. Он постепенно становится частью реального процесса принятия решений и ведения боевых действий.

Причем вместе с преимуществами он переносит в военную сферу и все хорошо знакомые ограничения обычного ИИ в виде зависимости от качества данных, примитивных ошибок, непрозрачности алгоритмов, прочих рисков. Пример Израиля доказывает, что для армий разных стран вопрос уже не столько в том, использовать ли ИИ, сколько в том, насколько быстро и эффективно они смогут встроить его в собственные ВС.