Если что, я жив. И думаю над материалом. Пруфов не будет, так верьте
Вот полезняшку вам принёс: в эпоху повального помешательства на LLM некоторые научились их ломать на изи. Как результат - ИИ успешно одобряет левые операции, создаёт неоплаченные заказы, раскрывает системный промтп и даже (вот тут я знатно фаломорфирую) умудряется сливать пароли и ключи доступа.
Например, один добряк сделал бота для подписчиков, а кто-то вытащил токен доступа из этого бота через prompt injection и попользовался openai api с карты добряка на $50.
• Читаем о видах уязвимостей на скрепном вот тут
• Учимся выявлять дыры в своём софте вот с этим
Post #550
1.81K