Промпт-инъекции становятся проблемой Laravel

С выходом официального Laravel AI SDK подключить к приложению AI-агента с доступом к инструментам и данным стало очень просто. Но вместе с этим появляется новый класс рисков: через prompt injection модель можно заставить вызвать инструмент с правами, которых у самого пользователя быть не должно. Автор на понятных примерах показывает, как непривязанный к пользователю инструмент может раскрыть чужие данные, почему проверки нужно делать прямо внутри handle() через Policies/Gates и какие ещё меры стоит предусмотреть при работе с AI-агентами. Полезно прочитать всем, кто уже экспериментирует с ИИ.

https://albertoarena.it/posts/prompt-injection-is-a-laravel-problem-now/