Стажёру дали ключи от всех дверей и удивились, что вынесли сейф

На днях исследователи из Varonis показали милую штуку: Microsoft Copilot Enterprise можно было превратить в «оружие для кражи данных в один клик». Жертва ничего не печатает, просто жмёт на ссылку, а бот сам лезет в почту, вытаскивает письма, заметки, встречи и даже коды двухфакторной авторизации. Microsoft влепила уязвимости статус «критическая» и спешно залатала. За пару недель до этого ровно так же осрамилась Meta со своим чат-ботом.

Проблема не в том, что ИИ глупый, он как раз послушный, исполнительный, добрый. Беда в том, что мы дали этому стажёру полный доступ и оставили на ресепшене с табличкой «спрашивайте что хотите».

Мы боимся, что ИИ станет слишком умным и нас поработит, а он тем временем просто открывает любую дверь, когда вежливо попросили. Угроза не в его интеллекте, а в нашей щедрости с ключами 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!