☝🏻ИИ чуть не устроил третью мировую войну

Этой весной, в разгар войны с Ираном, по американским военным каналам разошёлся разведотчёт: китайское судно в районе Ближнего Востока везёт компоненты ядерной программы.

Военные начали готовить перехват: вооружённая группа собиралась брать судно на абордаж, самолёты уже были в воздухе.💀

☝🏻Только перед самой операцией кто-то удосужился копнуть глубже — и выяснил, что отчёт целиком сгенерировал ИИ.

Как это произошло:
🔻 аналитик Командования спецопераций США на Тихом океане закинул чат-боту данные о грузовом манифесте судна
🔻 бот смешал открытые источники с секретной радиоразведкой и сам придумал вывод о том, что везёт корабль
🔻 тем же ботом аналитик оформил результат в стандартный разведотчёт — документ, которому военные доверяют по умолчанию
🔻 до сих пор неизвестно, был это коммерческий чат-бот или государственный

☝🏻☝🏻Единого стандарта проверки того, что нагенерировали эти инструменты, в американской армии просто нет: каждое ведомство внедряет своё, под свои правила.🤷🏼‍♀️

В январе Пентагон принял стратегию ускорения внедрения ИИ — модели раздают трём миллионам сотрудников на всех уровнях секретности.

Пока в Вашингтоне спорят, не выйдет ли ИИ из-под контроля и не уничтожит ли цивилизацию, цивилизацию едва не уронили куда проще: красиво оформленной галлюцинацией.🤔
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links