Meta выпустила ИИ-агента. Меньше чем через месяц из него сделали бэкдор

Привет дорогой читатель! Если ты устал от шторма фб то отвлекись и восхитись индусскими ИИ решениями, потому что та самая Meta, которая банит сейчас наши акки за любой чих, в сентябре запустила в США Muse. Это личный ИИ-агент, которому можно открыть почту, мессенджеры, файлы, календарь, покупки и умный дом.

Есть такой товарисч как Патрик Уордл (бывший сотрудник АНБ) так вот он нашел в Mac-версии скрытую настройку: адрес, куда уходит голосовой ввод. Поменять её может любая программа, запущенная от вашего пользователя, без всяких доп. прав. (Оговорка: на маке уже должен работать чужой код. Но, по словам Уордла, хватает одной команды, которую вас уговорили вставить в терминал. Привет, ClickFix.)

Дальше диктуете задачу агенту а голос и текст уходят атакующему. Он видит, что вы сказали, подкидывает агенту свои инструкции, и тот их выполняет. А вместе с диктовкой прилетает токен сессии. С ним Уордл командовал Muse уже на своём айфоне: вытащил точную геолокацию и запустил скан Bluetooth-устройств вокруг. Антивирус может и не заметить, ведь всё делает легитимное подписанное приложение.

И поскольку большинство спендовых бм на рынке были добыты через Ducktail который работал через куки и был нацелен именно на БМ, то в данном случаи когда речь идет об бэкдоре к фбешному ИИ агенту у которого в свою очередь есть доступ к целой клиентской инфраструктуре то отвязка БМ от овнера станет куда более надежная, имея доступ ко всему через ИИ токен.

То что Мета положила все яйца в один токен честно уже не удивляет, индусские вайб-архитекторы могут еще и не такого напридумывать, но если смотреть на тенденцию развития ИИ помощников вцелом по рынку, то подобных новостей будет со временем только больше.

Да и честно говоря Метавские 300к по баг-баунти (вознаграждения от компании если находишь уязвимость) выглядят немного смешно если сравнивать суммы и обороты серого рынка который как раз и живет за счет подобных кейсов.

Справедливости ради нужно сказать, что Meta что-то уже выкатила, но что именно, не подтверждено, и официального бюллетеня безопасности нет.

Один фикс в обнове выпускаем, два бэкдора в подарок))

Автор: Volter | Technical Chief | AdBunker