На этой неделе много обсуждали, как руководители крупнейших американских ИИ-лабораторий вдруг заговорили о замедлении, саморегулировании и необходимости не дать слишком мощным моделям натворить чего-нибудь плохого.

А в это время выяснилась история из немного другого мира.

Весной этого года, аналитик американского Special Operations Command взял разведданные о манифесте китайского судна и отдал их ИИ-боту. Бот объединил открытые источники с секретной радиоэлектронной разведкой и решил, что судно везёт компоненты ядерной оружейной программы.

Затем аналитик тем же ИИ оформил вывод в стандартный разведывательный отчёт и разослал его по военным каналам.

США начали готовить перехват: самолёты уже были в воздухе, вооружённая группа готовилась подняться на судно. Только перед операцией кто-то перепроверил исходные данные.

Отчёт оказался, по словам источника CNN, «полностью ложным».

Какой именно ИИ использовался, CNN не знает.

Тогда теория от меня:

Компания Vannevar Labs с 2021 года работает именно с Special Operations Command Pacific. Сначала — анализ открытых источников, с 2025 года — уже ИИ-агенты. Vannevar разворачивает их и в секретной сети JWICS.

На военных учениях их агенты анализировали морской трафик, объединяли разные источники данных, выявляли подозрительные суда и предлагали дальнейшие действия.

Публичные модели обсуждают, как бы себя замедлить, чтобы случайно не натворить бед. А закрытые военные ИИ уже встроены в реальные разведывательные процессы — и один такой процесс едва не закончился абордажем китайского судна из-за галлюцинации. Разумеется, никто там ничего замедлять не собирается.

@gostev_future