Доступ к данным пользователя в закрытом канале Slack можно получить благодаря манипуляциям с ИИ

Исследователи обнаружили уязвимость в Slack AI, позволяющую получить доступ к данным пользователя🧐

Уязвимость связана с косвенными подсказками, которые LLM не может отличить от остального контекста🥸

Злоумышленник может использовать вредоносную инструкцию для получения ключей API из частных каналов👾

Атака может быть проведена на публичный канал Slack, где LLM отображает фишинговую ссылку для повторной аутентификации🤨

Внедрение загрузки документов и внешних ссылок позволяет хакеру извлекать данные без необходимости находиться в Slack📃

Администраторам Slack рекомендуется ограничить новую функциональность AI до решения проблемы🕊