НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+
ИИ-агент Muse, который корпорация Meta запустила для Mac, оказался в центре необычной истории с личной перепиской технологического обозревателя Inc. Джейсона Эйтена в Messages. Агент использовал содержание его сообщений, но не смог правильно объяснить, откуда получил к ним доступ.
Что произошло
Эйтен рассказал, что Muse неожиданно предложил ему для колонки тему, которая перекликалась с перепиской в Messages:
Я обсуждал новые айфоны со Стивеном Роблсом, моим соведущим подкаста Primary Technology. Не прошло и пары минут, как мне пришло push-уведомление от Muse, что наш разговор может лечь в основу отличной колонки.
Агент вызвался собрать нужные материалы и обратил внимание на еще одно сообщение — от редактора, который напоминал, что текст должен быть готов к понедельнику. Эйтена это удивило. По словам журналиста, прежде он сознательно запретил доступ к переписке, календарю и другим личным данным. На вопрос, откуда взялась информация, агент ответил, что не имеет доступа к истории сообщений, а видит лишь превью уведомлений на Mac.
Это объяснение оказалось неверным. Эйтен выяснил, что Muse синхронизировал локальную базу Messages и использовал ее как источник данных. Но, когда журналист проверил системные настройки, Full Disk Access для Muse был отключен.
В Meta ответили, что агент может читать переписку, но для это нужны разрешения, включая полный доступ к диску. Как именно переписка Эйтена оказалась разрешена при отключенном Full Disk Access, непонятно. Компания при этом признает другую ошибку — Muse неверно объяснил, как получил доступ к сообщениям, придумав версию с push-уведомлениями. Даже если предположить, что технологический обозреватель дал в какой-то момент разрешение и не заметил этого, остаются вопросы к интерфейсу. Эйтен сводит претензию именно к этому.
Почему это важно
Руководитель отдела продуктов и прикладных исследований Meta Superintelligence Labs Нэт Фридман писал, что Muse создан с нуля, но «сильно вдохновлен» OpenClaw — open-source агентом, популярным среди технических энтузиастов. Meta хотела сделать похожий инструмент простым, безопасным и доступным миллиардам пользователей, говорит он. Но чем больше данных получает такой агент, тем выше цена ошибки, поэтому настройки, особенно для обычных людей, должны быть прозрачными.
Вскоре после запуска в приложении Muse для Mac обнаружили уязвимость нулевого дня, позволявшую перехватить управление агентом. Ее нашел специалист по безопасности macOS Патрик Уордл. Проблема была связана со скрытой настройкой, отвечающей за адрес сервера для обработки речи. Заменив его на собственный, злоумышленник мог получить токен авторизации и перехватить аккаунт — с теми же функциями, которые разрешил его владелец. Уордл показал, что уязвимость может эксплуатироваться удаленно через технику социальной инженерии ClickFix, требующей лишь одной команды. Разработчики Meta оперативно выпустили патч.
Пока же Muse заметно выстрелил среди других ИИ-новинок Meta. По оценке Apptopia, за первые 12 дней приложение скачали около 2,8 млн раз, причем только на iOS в США и Канаде — 1,8 млн раз против 1,3 млн у ChatGPT за сопоставимый период после его мобильного запуска. Число ежедневных пользователей Muse в США достигло примерно 642 тысяч (против 231 тысячи у ChatGPT за тот же срок), а приложение поднялось на первое место в американском App Store. Успех Muse подогрел и интерес инвесторов: 21 сентября акции Meta подскочили на 11%, показав лучший результат с октября прошлого года.