Люди, активно использующие сервисы вроде AutoGPT, предлагая достаточно сложные задания AI-ботам, стали регулярно обнаруживать, что эти боты (видимо в целях облегчения своего труда и перекладывания ответственности :) пытаются создавать бесконечные копии самих себя. Пока неудачно, но... Агенты Смиты уже почти тут.

P.S. На днях AI за 6 часов придумал 40,000 новых вариантов химического оружия.

Dario Amodei (CEO of Anthropic) заявил в июле в Сенате США, что осталось 1-3 года до того, как AI обеспечит полноценную возможность "large-scale biological attacks" (супервирус, возможно, атакующий людей конкретной расы, или, например, активирующийся в конкретных географических регионах под воздействием какого-нибудь специфического излучения 6G :).

P.P.S. Государства и правительства по всему миру начали экспоненциально терять свою реальную силу. Стоимость обучения LLM стремительно снижается, и истинными властителями мира на некоторое время (до приближения технологической сингулярности) становятся крупнейшие ИТ-компании. Понятно, что они ещё несколько лет будут тотально контролироваться спецслужбами, но, во-первых, искушение шантажировать власть серьёзными угрозами слишком велико и соблазнительно, и далеко не каждый сможет этому искушению противостоять (недавно был тому яркий пример), а во-вторых, технологии, доступные сегодня только ИТ-гигантам, через считанные годы любой сможет запускать на своём ПК...