🚨 Самолёты уже были в воздухе. Потом выяснилось, что разведсводка ошибочна

Весной американские военные готовились перехватить китайское судно на Ближнем Востоке. Согласно докладу, оно перевозило компоненты для ядерной программы. Вооружённая группа собиралась подняться на борт.

Перед операцией данные перепроверили: ИИ неверно определил груз. Об этом сообщает CNN со ссылкой на четыре источника.

Аналитик использовал нейросеть дважды: сначала для анализа данных, потом — для оформления вывода в стандартную разведсводку. Ошибка получила вид документа, которому привыкли доверять. Проверка сработала, но слишком поздно — самолёты уже подняли.

⚠️ Это хорошее напоминание для любого, кто внедряет ИИ. Даже в системе с огромными ресурсами достаточно одного неудачно устроенного перехода от «ответа модели» к «основанию для решения».

Поэтому профессиональное внедрение — это не подключить нейросеть к рабочему чату. Это заранее определить, каким данным она может доверять, что обязана подтвердить источником и на каком этапе человек должен остановить процесс.

В армии цена ошибки очевидна. В компании она обычно тише — неверный платёж, письмо клиенту или решение по ложному отчёту. Но исправлять процесс лучше до первого такого случая.