😱 Жесть: ИИ чуть не стал причиной военной операции против китайского корабля.

Весной этого года, во время войны с Ираном, американский военный аналитик использовал ИИ для анализа данных о китайском судне. Нейросеть ошибочно определила, что корабль перевозит компоненты для ядерной программы. На основе этого был подготовлен разведывательный отчет, который разошелся по военным каналам.

Американские военные начали готовить перехват: самолеты уже поднялись в воздух, а вооруженные подразделения готовились к высадке на судно. Но перед операцией данные перепроверили и обнаружили, что ИИ неправильно определил груз. Операцию отменили.

Самое страшное здесь даже не то, что нейросеть ошиблась. Проблема в том, что ошибочный результат успел превратиться в официальный на вид разведывательный документ и пройти по цепочке принятия решений.

@bugfeature | #ии