Если раньше было сложно найти новость не про AI, то теперь сложно найти новость не про AI Safety. Про что сегодня только не было — от короля Чарльза до губернатора Калифорнии и все озабочены безопасностью AI.

Впрочем, вот что-то более свежее — хотя тоже про AI.

По данным CNN, весной, во время войны с Ираном, по американским военным структурам разошёлся разведывательный отчёт о том, что китайское судно на Ближнем Востоке перевозит компоненты ядерной оружейной программы. Военные подготовили перехват: по словам двух из четырёх источников, вооружённые бойцы готовились к высадке на борт, самолёты уже находились в воздухе. Только перед самой операцией выяснилось, что отчёт аналитика командования специальных операций составлен с помощью AI, а чатбот неверно определил груз. Один из источников назвал документ «полностью ложным» и сказал, что он «почти начал войну». Пентагон и SOCPAC запрос CNN не прокомментировали.

Механизм галлюцинации довольно прост — аналитик задал чатботу вопрос по разведданным о манифесте судна, поступившим из командования спецопераций в Тихоокеанском регионе на Гавайях. Бот соединил открытые источники с секретной радиоэлектронной разведкой из государственных хранилищ и выдал вывод о характере груза, после чего аналитик снова использовал AI, чтобы оформить результат в стандартный разведывательный отчёт. Какой именно бот использовался, источники не детализируют.

То есть теперь очередь практически дошла до WarGames — фильм 1983 года, в котором юный хакер дозванивается до управляющего компьютера NORAD и решает поиграть в Global Thermonuclear War, считая, что это игра. По крайней мере, уровень "аналитиков" Пентагона автором 40 лет назад показан очень точно.

https://edition.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship

_______
Источник | #blognot
@F_S_C_P

-------
Поддержи канал подпиской
-------