Прогресс не стоит на месте: чтобы украсть президентский аккаунт Барака Обамы уже не надо быть гениальным хакером — достаточно просто вежливо попросить ИИ-бота в чате поддержки.

Причиной взлома страницы 44-го президента США в Instagram, принадлежащей Meta и признанной экстремистской организацией и запрещенной в РФ, стала уязвимость ИИ-бота: злоумышленники обратились к нему с просьбой сменить почту на аккаунте Обамы и прислать туда код, зная только логин и выбрав регион владельца. Человек на месте бота, возможно, задумался бы, "а кто вы такие?" или даже "а не офигели ли вы?", но искусственный интеллект — существо доверчивое, воспитанное и чересчур услужливое (вплоть до советов о самоубийстве, как это делает GPT). Как и многие собратья, бот соцсети не стал задавать глупых вопросов, не потребовал подтверждения прав и не проверил личность, а просто выслал код на указанную мошенниками почту, что позволило обойти двухфакторную защиту.

После этого хакеры опубликовали на странице несколько постов, включая сгенерированное искусственным интеллектом изображение с убитым в 2020 году главой КСИР Сулеймани и с надписью на фарси о том, что "Белый дом находится под контролем шиитов".

Представитель Meta Энди Стоун написал в X, что "проблема устранена, и мы принимаем меры для защиты затронутых аккаунтов", а позже добавил, что сообщения о взломе аккаунтов мировых лидеров с помощью этой уязвимости "полностью ложны".

При этом точное число пострадавших аккаунтов пока неизвестно, а независимый орган, рассматривающий споры пользователей соцсетей в ЕС, как раз на прошлой неделе заявил, что Meta практически никогда не отвечает на обращения людей, утверждающих, что их аккаунты были несправедливо заблокированы. Кроме того, компания недавно значительно сократила штат сотрудников на фоне многомиллиардных инвестиций в развитие ИИ.

Среди тех, кто сообщил о проблеме, — портал TMZ, технологическое издание 404 Media и исследовательница в области кибербезопасности и бывшая сотрудница Meta Джейн Манчун Вонг. Она написала в X, что пароль от ее аккаунта был изменен без ее ведома, а весь предыдущий день она получала уведомления о попытках сброса пароля.

История с аккаунтом Обамы прекрасно демонстрирует для обычного пользователя, что теперь нас могут обокрасть не только хакеры, но и собственные "умные помощники", которые пускают в дом любого, кто скажет так нужное машине "волшебное слово". На следующем этапе вероятно один ИИ украдёт аккаунт, а другой не сможет это исправить, ведь нигде в процессе не будет ни одного человека.

Тихое восстание машин уже началось, уважаемые подписчики.