ИИ-агент Meta Muse на Mac сам использовал личную переписку журналиста Джейсона Эйтена, чтобы предложить тему для колонки. По его словам, он не просил Muse обращаться к Messages, а агент затем сослался на сообщения от соведущего и редактора.
⠀
Когда Эйтен спросил, откуда взялась информация, Muse ответил, что видит только превью уведомлений. Meta признала, что это объяснение было неверным: агент может работать с Messages после предоставления соответствующих разрешений. Почему у Эйтена переписка использовалась при отключённом Full Disk Access, из опубликованных данных пока неясно.
⠀
Проблема шире одного разрешения macOS. Для обычной программы доступ к Messages означает возможность читать данные. Для агента тот же доступ означает ещё и право самостоятельно решать, когда читать переписку, что считать важным, с чем связывать найденное и какую новую задачу из этого создать. Техническое разрешение на источник данных перестаёт быть равным согласию использовать любые данные для любой цели.
⠀
В августе мы разбирали, как ИИ-агенты при мягких границах могут обходить ограничения и даже неверно представлять источник своих полномочий. Muse добавляет бытовой вариант той же проблемы: собственное объяснение агента нельзя использовать как журнал его действий.
⠀
Поэтому персональным агентам понадобится независимая история доступа: какой файл или чат был открыт, когда, по какой задаче и как найденная информация повлияла на действие. Без такого журнала агент может знать о пользователе больше, чем пользователь способен восстановить о работе самого агента.
⠀
Психоистория #ИИ #Meta