Официальный канал журнала ForkLog посвященный ИИ.
С 2014 года документируем развитие биткоина, искусственного интеллекта, квантовых технологий и других систем, определяющих развитие цивилизации.
Реклама на ForkLog: https://forklog.com/advertisement/
Post #7310
2.54K
🤖 Исследователи описали риск ботнетов на базе галлюцинаций ИИ-агентов.
Схема получила название HalluSquatting: модель выдумывает адрес репозитория или навыка, а атакующий заранее регистрирует такой идентификатор и размещает там вредоносные инструкции.
В тестах атака приводила к вызову встроенных инструментов агентов и удаленному выполнению кода. Один из главных выводов: ИИ уже помогает искать баги, но одновременно создает новую поверхность атаки.
👉 Подробнее
Новости | AI | YouTube
Схема получила название HalluSquatting: модель выдумывает адрес репозитория или навыка, а атакующий заранее регистрирует такой идентификатор и размещает там вредоносные инструкции.
В тестах атака приводила к вызову встроенных инструментов агентов и удаленному выполнению кода. Один из главных выводов: ИИ уже помогает искать баги, но одновременно создает новую поверхность атаки.
👉 Подробнее
Новости | AI | YouTube
- 🗿 2
- 😱 1
- 🌚 1











