Кажется в пылу гонки вооружений в области искусственного интеллекта, корпорации, не говоря уже о малышах стартаперах, не оставляют себе время на закрытие уязвимостей, перекладывая эту работу на белых хакеров. Черные хакеры, думаю, тоже не дремлют.

Помните, недавно Google выпустил Bard Extensions? В рекламе было сказано, что с помощью расширений Bard может находить и показывать вам соответствующую информацию из инструментов Google, которые вы используете каждый день, таких как Gmail, Документы, Диск, Карты Google, YouTube, Google Авиабилеты и отели, даже если нужная вам информация находится в нескольких приложениях и сервисах.

Так вот, с помощью промта и такой-то матери понимания как работает защита CSP (эту защиту, кстати, в NDA просит использовать, к примеру, МТС, в надежде что это супер безопасный способ передачи конфиденциальной информации), белые хакеры уже в день релиза смогли получить доступ к почте жертвы.

Подробности можно прочитать здесь