Когда у тебя крадут аккаунт, самое мерзкое начинается потом: от твоего имени пишут дичь, а люди читают это как твои слова.

Мы всё больше привыкаем верить не просто текстам, а людям, которые их пишут. Нам важно мнение блогера, его подача, интонация, способ думать и реагировать. Мы читаем человека годами, узнаём его голос и начинаем ему доверять.

Поэтому украденный аккаунт — это украденное доверие.

А теперь представьте это на уровне политиков, журналистов, предпринимателей, медиа и компаний. Мы давно живём в мире, где заявления делают через соцсети. Дональд Трамп показал, что аккаунт может быть полноценным политическим инструментом, а один пост иногда работает быстрее любого официального документа.

И вот в эту реальность подъехала новая проблема: соцсети встраивают AI-агентов в свои бизнес-процессы. В поддержку, восстановление доступа, модерацию, безопасность, работу с аккаунтами. И как оказалось, это касается всех аккаунтов без исключения.

На бумаге агент выглядит как броня: быстрее отвечает, помогает восстановить доступ, поменять почту, подтвердить действие. Но агента тоже можно обмануть. На этой неделе обсуждали историю, где хакерам удалось через Meta AI сбросить доступ к аккаунту Барака Обамы. Ошибку закрыли, но важна механика.

AI-агенту не обязательно понимать, что его используют в атаке. Для него это обычная просьба: человек потерял доступ, надо помочь восстановить аккаунт. Злоумышленнику уже не всегда нужно ломать систему напрямую. Иногда достаточно убедить помощника, что он помогает.

И что? Агенты всё равно придут. Этот процесс уже не остановить, потому что это быстрее, дешевле и масштабируемее. Их будут встраивать в соцсети, банки, почту, облака, телефоны и корпоративные системы.

Нам 3.14здец Основная проблема в том, что AI может начать воздействовать на людей через настоящие доверенные аккаунты, а узнать об этом мы можем слишком поздно. Когда пост уже разлетелся, заявление уже процитировали, деньги уже ушли, а люди уже поверили, потому что написано было от имени человека, которому они доверяют.


Посмотреть живьем это обсуждение можно по ссылке в комментариях. Поставьте лайк, подпишитесь и поделитесь с друзьями или приходите на прямой стрим во вторник.