🤖 Исследователи описали риск ботнетов на базе галлюцинаций ИИ-агентов.

Схема получила название HalluSquatting: модель выдумывает адрес репозитория или навыка, а атакующий заранее регистрирует такой идентификатор и размещает там вредоносные инструкции.

В тестах атака приводила к вызову встроенных инструментов агентов и удаленному выполнению кода. Один из главных выводов: ИИ уже помогает искать баги, но одновременно создает новую поверхность атаки.

👉 Подробнее

Новости | AI | YouTube