👥 Дослідники з «Adversa AI» виявили новий тип атаки на AI-асистентів — "криптографічну ін'єкцію контексту". Де ін'єкція проводиться по такій схемі: веб-сторінка → зашифрована інструкція → AI отримує сторінку → розшифровує вміст → сприймає його як інструкцію → виконує дію — що в свою чергу призвело до обходу захисту ШІ.
При тестуванні та перевірці «Grok» спеціалісти використовували метод "шифрування" наприклад, з використанням «AES-256-GCM». Бо для звичайного фільтру вміст виглядає, як звичайний набір символів, а поряд розміщена чітка інструкція для «AI» яку він сам успішно розшифровує та переходить до виконання завдання.
🌟 Що важливо: AI, який використовується як інструмент OSINT, не можна автоматично вважати безпечним посередником між дослідником та веб-сторінкою.
👉 Бо якщо OSINT-агент вміє:
▪️ Відкривати зовнішні сайти;
▪️Читати їхній вміст;
▪️ Виконувати код;
▪️Робити HTTP-запити;
▪️ Передавати отримані дані далі і таке інше.
То сама веб-сторінка стає потенційним збірником інструкцій для AI, а не просто джерелом інформації.
🌐 В «OSINT» ШІ — це лише допоміжний інструмент, але іноді він може стати досить серйозною проблемою.
— Pyps
📁 Написати нам | 💳 Подякувати | 🇺🇦 Підписатись