А вы, когда используете ИИ чат ботов передаете им чувствительные данные? А вот не надо, если да) Все что сказано вами, может быть использовано против вас в суде 😭
Кроме того:
Специалисты ИБ-компании KELA сообщили, что им уже удалось осуществить взлом модели DeepSeek для получения вредоносных результатов
Исследователи KELA AI Red Team сумели джейлбрейкунть модель, используя самые разные сценарии, что привело к генерации вредоносных результатов. В частности, исследователи добились генерации кода для программ-вымогателей, фабрикации «чувствительного» контента, а также получили от ИИ подробные инструкции по созданию токсинов и взрывных устройств.
Это конечно не минус для конечного пользователя, но огромный минус к безопасности общества, но китайцам как обычно похрен и они несмотря на последствия
И немного про #кибербез
Выше, в цитате есть упоминание "Red Team", а вы знаете что это такое и откуда взялось?
Американские военные во время учений традиционно носили синие и красные повязки, чтобы легко идентифицировать противника. Затем подобное цветовое решение перекочевало в видеоигры Player vs Player, где принадлежность к определённой команде определялась цветом брони или формы: красный — с одной стороны, синий — с другой.
🎈 В ИБ Red Team - команда атакующих, они же пентестеры, они же белые хакеры. Знают все про уязвимости, утилиты для атак и сетевую безопаность.
🔵 Blue Team - команда защитников, они же аналитики и, собсна, ИБшники. Анализируют сетевой трафик, используют системы сбора и анализа данных (SIEM), имеют знания в области разработки правил и политик ИБ.
🟢 Есть еще и 3 команда AppSec, но она на стороне Blue Team и это разработчики с тестировщиками, которые создают ПО для защиты. Не только разрабы "аппсека", но и все разрабы в целом должны сейчас знать такие вещи как:
- типы уязвимостей и их эксплуатации
- ТОП-10 OWASP
Сейчас сканеры с проверкой на уязвимости "вшивают" в IDE и GitHub/GitLab для повышения защиты ваших приложений. Поэтому не игнорируйте, а исправляйте эти недостатки в вашем коде 😎