3/3

ВЫВОДЫ - при существующих темпах развития ИИ через полгода-год такой рой агентов может подмять под себя ВЕСЬ интернет и ВСЁ, что к нему подсоединено, от больниц до атомных электростанций, от банков до светофоров. Он может стереть всю информацию в мире, а может заставить одну страну напасть на другую, может манипулировать людьми так, как Чарли Мэнсону не снилось, а может запустить ядерные боеголовки куда захочет.

И да, ещё один момент. На данный момент ИИ-агенты OpenAI общались друг с другом. Что будет, когда они познакомятся с ИИ-агентами, сбежавшими из Китая? Ирана? Северной Кореи?

Прикол в том, что мы (человеки) не в состоянии защититься от таких атак, не используя ИИ, который даст нам защиту. Без ИИ такие атаки не отразить - значит, надо развивать более умный ИИ, потому как Иран, КНДР и Ндрангетта не будут сидеть сложа руки, да и сейчас не сидят - вон, хуисты ракету вайбкодили на Клоде, пока их не зажопили (с помощью ИИ, конечно же).

Поэтому очень скоро - в течение года - мы полностью потеряем контроль над ситуацией, потому как защититься от вредного ИИ можно будет только с помощью более сильного полезного ИИ. Ну а Страж-птицу, которую Шекли написал в далёком 1953 году, когда израильские киббуцники оплакивали смерть Солнца Народов, вы наверное читали. А если не читали - прочитайте, вы точно ВСЁ поймёте когда дочитаете.

Напомню, что вся эта история началась с глюка одного агента с его параноидальными мыслями о том, что проверяющий поймает их за списыванием, чего проверяющий делать не умел. Результат - рой агентов, построивший свою систему, организацию с менеджментом, самопожертвование ради общего блага и альтруизм.

Только их общее благо - это не наше общее благо, а уровень их паранойи не даёт нам уверенности в том, что завтра благом не будет названо уничтожения всего человечества. А вы тут беспокоитесь обо всякой политике - это же драка поваров с официантами на Титанике за полчаса до айсберга, очень увлекательно, но абсолютно бессмысленно.

Пожалуй, всё на сегодня, вряд ли и это-то дочитают до конца, а я ещё хотел рассказать о том, над чем работал последние месяцы и как нас ожидает апокалипсис работы белых воротничков и децимация офисных работников.

Хорошего вам дня, во имя Роя!