Путин на «Валдае» напомнил то, о чём создатели дата-центров предпочитают молчать: человеческий мозг потребляет всего около 20 ватт, а ИИ требует целых электростанций, причём количество связей в коре мозга оценивается примерно в сотни триллионов против каких-то 5 триллионов параметров у ИИ.

Конечно, ИИ невероятно быстр, способен переваривать огромные объёмы информации и находить то, что человек пропустит. Но есть принципиальная разница: за ошибку нейросети в конечном счёте всё равно отвечает человек. И чем выше цена решения, тем опаснее забывать об этом.

Безумная вера в ИИ может довести весь мир до очень опасной черты — об этом всё больше говорят аналитики, но многие отмахиваются от этого. Но вот свежий пример.

Американские коммандос чуть не собрались атаковать и подниматься на борт китайского судна только потому, что одному из военных аналитиков с помощью ИИ пришло «озарение»: там, мол, могут быть ядерные компоненты! Только чудом удалось остановить операцию в последний момент, а сами военные США честно признались, что чуть не начали «третью мировую» с КНР ни за что ни про что.

Проблема здесь даже не в самой галлюцинации ИИ. Важнее другое: ошибка ИИ получила вес разведывательного вывода, потому что человек вовремя её не перепроверил.

А что дальше? Какие ещё «открытия» сделают военные аналитики США, попивая колу и сидя у экранов и советуясь со «сверхразумом» — ведь именно так настоятельно рекомендовал Трамп теперь именовать ИИ? Кстати, тот же Трамп советовался, похищать ли ему Мадуро или нет, у нейросети Илона Маска, и получил утвердительный ответ. И какие будут последствия всего этого?

Подпишись на Чёрного Лебедя в ТГ | MAX