AI Attacks

в 2022 году я купила себе книгу "Глубокое обучение с fastai и PyTorch" и была удивлена наличием в ней главы про этику.
"Какая этика? мы тут математикой и алгоритмами занимаемся", но я была не права)

Периодически DS загоняют в рамки соответствия каким-то метрикам, которые нельзя достичь,
или подгонку результатов, потому что надо быстрее в продакшн,
и тут уже в небезопасности оказывается сам DS - это означает и репутационные риски, и мат ответственность и прочее.

Рекомендую к прочтению именно эту главу в книге, сама книга уже устаревшая,
хотя, возможно, для каких-то специфических задач по классификации картинок - может быть быстрым стартом.

Работая в DS уже 4 года, поняла для себя, что все чаще аналитика и модели становятся
объектом манипуляции данными и результатами для получения разного рода выгод,
периодически происходят какие-то крупные обвинения, как обвинение LLM Arena в предвзятости результатов (думаю, что это правда

Но, когда даже в книгах O'relly есть такие абзацы, начинаешь сомневаться
в большинстве результатов расчетов аналитиков и тестирования моделей.
А тем более в их безопасности и правдивости.

Проверяйте настройки у нейросетей по подписке)
И, вообще, лучше двухфакторную аутентификацию на таких сервисах делать)🤫

Герой нашего времени 😄

#LLM

https://developer.nvidia.com/blog/practical-llm-security-advice-from-the-nvidia-ai-red-team/

#LLM
Заговор агентов :)

https://embracethered.com/blog/posts/2025/cross-agent-privilege-escalation-agents-that-free-each-other/

OWASP Top 10 LLM & Gen AI Vulnerabilities in 2025

#LLM

AI Darwin Awards 2025 - Celebrating Spectacularly Bad AI Decisions
https://aidarwinawards.org/

17 сентября в рамках Международного технологического конгресса АНО «Цифровая экономика» презентовала аналитический отчет «Тренды применения искусственного интеллекта в отраслях» (трендбук), представляющий собой обзор современных и перспективных направлений внедрения искусственного интеллекта в ключевых отраслях экономики России.

Локальный чатбот без ограничений: гайд по LM Studio и открытым LLM / Хабр
https://habr.com/ru/articles/922340/?ysclid=mfgw13bu8b589608999

Лучшая и полная рассылка новостей про AI

https://buttondown.com/ainews

🍯 Сеньор-инженер из Google выложил бесплатную (!) книгу на 400 страниц об агентских системах — Agentic Design Patterns. Это целый учебник для создания ИИ-агентов под любые задачи:

• Продвинутые техники промптинга
• Шаблоны команд ИИ-агентов и фреймворки
• Гайды по использованию инструментов и MCP
• Кодинг-агенты и CLI
• Техники ризонинга моделей
• Управление памятью в ИИ-агентах
• Практические примеры с кодом и наглядные схемы

Сохраняйте мастрид — тут.

P.S. Кто сделает перевод книги на русский и пришлёт в комменты — отправлю редкий подарок за $16. Думаю, многим будет полезно!

@notboring_tech