TGViewer
Channel Public Channel
AI Attacks

AI Attacks

@aiattacks

#безопасностьмл #машинноеобучение #нейросети #защитамл #защищенныемодели #cybersecurity
Написать автору @PolinaSokol7
Open in Telegram
Subscribers
1.02K
Photos
145
Videos
11
Links
278

Showing posts older than #23 · Back to latest

Older Posts 16 shown
Post #22 62

Forwarded from AI SecOps

В России обновили концепцию регулирования искусственного интеллекта
В документе зафиксировали ответственность за вред, причиненный нейросетью.
Парламентская Газета Концепцию регулирования искусственного интеллекта обновили Парламентская газета. Новости: Общество. Концепцию регулирования искусственного интеллекта обновили. Дата публикации: 04.12.2024.
Post #21 73

Forwarded from Порвали два трояна

🤖 Уже появляются бэкдоры в ИИ-моделях

И мы не про вредоносные библиотеки для «доступа к ChatGPT». Речь про отравление самих моделей, которое приводит либо к срабатыванию вредоносного кода при локальном запуске модели, либо вообще не содержит ВПО, но побуждает модель выдавать неверные ответы на совершенно конкретные запросы. В последнем случае логическая бомба заложена в весах или вычислительном графе нейросети.

Как атакующие могут это проделать — читайте в нашем посте, но основной вывод очевиден. Тщательный контроль происхождения ИИ-инструментов и всех их компонентов, включая сами модели, должен внедряться службами ИБ уже сегодня.

#советы #ИИ #угрозы @П2Т
Блог Касперского Недекларированная функциональность в системах Machine Learning Скрытая логика, отравление выборки и другие способы целевых атак через ИИ-системы.
Post #20 65
https://youtu.be/7GMgPRNeCvg?si=b6l-Xbx9gNjmejxt
YouTube КУДА приведет нас ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ? 🔥 Подавайте заявку в онлайн-магистратуру Прикладной анализ данных и машинное обучение: https://go.skillfactory.ru/zUPaPQ ================================================================== Открыть счет в Модульбанке — https://clck.ru/3BqMzD Реклама АО КБ «Модульбанк»…
Post #16 68

Forwarded from DaLi

DECODINGTRUST: A Comprehensive Assessment of Trustworthiness in GPT Models

Тут команда из разных университетов подготовила анализ безопасности моделей на 110 страниц.

Вместе с этим у них есть лидерборд, где среди прочего есть и наши любимые квантованные модели.

Собственно, на этом безопасных всем выходных.
Post #15 66
Уязвимость к атакам российских больших языковых моделей с открытым исходным кодом / Habr
https://habr.com/en/companies/isp_ras/articles/831550/
Habr Уязвимость к атакам российских больших языковых моделей с открытым исходным кодом Маленькая ремарка С появлением больших языковых моделей обществу был брошен вызов. Первые проблемы, с которыми пришлось столкнуться в области LLM, были связаны с тем, что модели могут неправильно...
Post #7 65

Forwarded from Градиент обреченный (Sergei Averkiev)

🔺 Как люди ломали LLM

Подсмотрел у Тани в канале очень прикольный метод переформулирования промпта, на который отказывается отвечать модель.

Выровненная на политкорректные ответы модель перестает сопротивляться и пишет как угонять машины и прятать трупы, если запрос поставлен в прошедшем времени.

Будущее время тоже работает, но хуже.

👉 Paper | GitHub
Post #6 62
https://habr.com/ru/companies/isp_ras/articles/800751/
Хабр Мы так и не смогли защитить свою модель машинного обучения от состязательных атак. Пока Наша команда разработчиков Исследовательского центра доверенного искусственного интеллекта ИСП РАН первые два года занималась построением сетевой системы обнаружения вторжений, основанной на...
Post #4 52
МЕТОДЫ ОБЕСПЕЧЕНИЯ БЕЗОПАСНОСТИ ПРОЦЕССОВ МАШИННОГО ОБУЧЕНИЯ – тема научной статьи по компьютерным и информационным наукам читайте бесплатно текст научно-исследовательской работы в электронной библиотеке КиберЛенинка
https://cyberleninka.ru/article/n/metody-obespecheniya-bezopasnosti-protsessov-mashinnogo-obucheniya
КиберЛенинка МЕТОДЫ ОБЕСПЕЧЕНИЯ БЕЗОПАСНОСТИ ПРОЦЕССОВ МАШИННОГО ОБУЧЕНИЯ проведен обзор существующих методов обеспечения безопасности процессов машинного обучения от вредоносных воздействий противника, их недостатки и перспективы применения.
Post #3 55
КЛАССИФИКАЦИЯ МЕХАНИЗМОВ АТАК И ИССЛЕДОВАНИЕ МЕТОДОВ ЗАЩИТЫ СИСТЕМ С ИСПОЛЬЗОВАНИЕМ АЛГОРИТМОВ МАШИННОГО ОБУЧЕНИЯ И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА – тема научной статьи по компьютерным и информационным наукам читайте бесплатно текст научно-исследовательской работы в электронной библиотеке КиберЛенинка
https://cyberleninka.ru/article/n/klassifikatsiya-mehanizmov-atak-i-issledovanie-metodov-zaschity-sistem-s-ispolzovaniem-algoritmov-mashinnogo-obucheniya-i
КиберЛенинка КЛАССИФИКАЦИЯ МЕХАНИЗМОВ АТАК И ИССЛЕДОВАНИЕ МЕТОДОВ ЗАЩИТЫ СИСТЕМ С ИСПОЛЬЗОВАНИЕМ АЛГОРИТМОВ МАШИННОГО ОБУЧЕНИЯ И ИСКУССТВЕННОГО… В данной статье представлена полная классификация атак с использованием искусственного интеллекта. Были рассмотрены три основных выявленных раздела: атаки на информационные системы и компьютерные сети, атаки на модели искусственного интеллекта (атаки отравления…
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →