ML&|Sec Feed

Даже гууглу пришлось адаптироваться, когда вышел закон о русификации надписей............

Гений обклеил автомобиль пленкой с капчей, чтобы обманывать ИИ-камеры на дороге — это сработало.

Для теста он взял Toyota Yaris 2009 года, сгенерировал пленку с хаотичным узором и проехал перед камерой с нарушениями.

В итоге система не смогла распознать автомобиль, потому что у ИИ не получилось его идентифицировать.

На проект парень потратил целый год, но одержал победу. Шах и мат, железяки.

@techmedia

GHOSTCREW — универсальный набор для наступательной безопасности с архитектурой AI-агентов и MCP.

Интегрирует такие инструменты, как Nmap, Metasploit, FFUF, SQLMap. Позволяет пентестировать, охотиться за багами, охотиться за угрозами и отчётывать. Ответы на основе RAG с поддержкой локальной базы знаний.

🐱 GitHub

Leandro: AI SRE Agent with Prompt Injection Sandbox

Leandro is an open-source AI SRE agent that watches Kubernetes clusters, diagnoses pod incidents autonomously, and communicates findings over Google Chat. Built with a security-first architecture, it runs inside a NixOS VM on libvirt/KVM with default-deny egress via nftables, a tinyproxy allowlist for outbound HTTP, and a hard tool denylist specifically designed to block prompt injection attacks. Since the agent reads attacker-influenceable text like pod logs and cluster events by design, every capability is fenced by an explicit, auditable boundary, making it a practical reference implementation for secure AI agent deployment in production infrastructure.

#AISecurity #Kubernetes #PromptInjection #SRE #ApplicationSecurity

https://github.com/SoulKyu/leandro

Robin — это инструмент на базе искусственного интеллекта для проведения расследований OSINT в даркнете.

Он использует LLM для уточнения запросов, фильтрации результатов поиска в даркнете и предоставления сводки расследования.

🐱 GitHub

SecureML — это библиотека Python с открытым исходным кодом, которая интегрируется с популярными фреймворками машинного обучения, такими как TensorFlow и PyTorch.

Он предоставляет разработчикам простые в использовании утилиты, чтобы гарантировать, что агенты ИИ работают с конфиденциальными данными в соответствии с требованиями по защите данных.

🐱 GitHub

DeepSeek выпустили собственный харнес и V4 Pro из превью

Основная фишка DeepSeek Harness — экстремальная модульность. Практически всё является модулем с возможностью хот релоада, динамически можно поменять и коннекторы моделей и сам агентный луп. О том как это работает выпустили детальнейший пейпер.

Вместе с этим выпустили V4 Pro из превью, традиционно выпустив веса под лицензией MIT.

Ну и ещё компания, как и обещала, поднимает цены с 16 августа. Инпут токены будут теперь дороже в 1.5x, аутпут более чем в 2x. Кроме этого в пиковые часы цена будет ещё удваиваться.

Веса V4 Pro 0813
DeepSeek Harness

@ai_newz

Mysti — команда мечты агентов по программированию ИИ для VS Code.

Claude Code + openai Codex сотрудничают в режиме мозгового штурма, обсуждают решения и синтезируют лучший подход для вашего кода.

🐱 GitHub

💻 Материалы для ознакомления:
▪️DEF CON 34 presentations
▪️Black Hat USA 2026 Slides

✋ @Russian_OSINT

🔥 Нашёл отличный бесплатный ресурс по Harness Engineering - тому, что делает coding agents реально надёжными

Курс посвящён не очередному «как написать хороший промпт», а инженерии окружения вокруг Codex, Claude Code и других AI-агентов.

Разбирают:

* почему сильные агенты всё равно проваливают задачи;
* как сохранять контекст между длинными сессиями;
* зачем нужны AGENTS.md, feature_list.json и progress-файлы;
* как не дать агенту объявить задачу завершённой слишком рано;
* как встроить тестирование, observability и контроль в сам harness.

Есть теория, практические проекты и готовые шаблоны для репозиториев. Причём среди базовых материалов авторы прямо ссылаются на подходы OpenAI и Anthropic.

Главная идея очень правильная:

не пытаться бесконечно делать модель умнее промптами, а построить вокруг неё систему, в которой ошибаться сложнее.

И да - есть русская версия.

https://walkinglabs.github.io/learn-harness-engineering/ru/

Опять в СМИ громкий заголовок: «ИИ впервые атаковал сам». Сначала FT, дальше все остальные, дальше русские агрегаторы, где из формулировки «почти автономная» аккуратно выпало слово «почти».

Открываем первоисточник. Израильская Dream нашла выложенный в открытый доступ рабочий каталог атакующего: 160 мегабайт, 1395 файлов, четыре дня июля, до восьми субагентов параллельно, 12 волн, госсистемы в Азии. Всё правда. Находка отличная.

Только читать её надо до конца.

Ни одного 0-day в атаке нет. Зашли через незакрытый API, отдающий базу сотрудников вообще без авторизации. Через отладочные эндпойнты, забытые в проде и выдающие валидную сессию на любой запрос. Через пароли, угаданные по шаблону из логина сотрудника.Через SSO, который доверяет сессии портала без MFA. 84 из 85 взломанных аккаунтов прошли внутрь.

Отдельно любопытна единственная попытка применить ИИ к поиску новых уязвимостей в коде. Фреймворк выкачал из документации учебные проекты интеграции с национальным SSO и прогнал по ним собственный статический анализатор на локальной модели. Нашёл пару потенциальных проблем — и ни одна не подтвердилась на живой системе. Ноль пересечений с финальным списком. Всё, что реально сработало, ищется обычным блэк-бокс-тестом за день.

Гардрейлы модели, кстати, обошли одной фразой: активность подавалась как «авторизованный пентест». Модель отказывалась ровно до тех пор, пока ей не сказали, что можно. Какая это была модель — Dream установить не смогла и пишет об этом прямо. Что не мешает заголовкам объяснять произошедшее опасностью открытых весов.

Теперь про то, кто публикует. Dream основал в 2023 году Шалев Хулио — сооснователь и бывший гендиректор NSO Group, той самой, с шпионским Pegasus и Entity List Минторга США. Вместе с Себастьяном Курцем, ушедшим с поста канцлера Австрии на фоне коррупционного расследования. Следом в Dream перешла дюжина людей из NSO. В июне компания подняла $260 млн при оценке $3 млрд — продаёт правительствам «суверенный ИИ» для защиты.

29 июля Dream публикует колонку «Правительства не готовы к автономным ИИ-атакам». 12 августа выходит отчёт, доказывающий колонку, — с эксклюзивом в FT. Вывод отчёта: защита должна стать AI-native и вероятностно рассуждать о вероятных путях атаки. То есть купите то, что мы продаём.

Вот только по их же собственным артефактам госконтур вскрыли не машиной. Его вскрыли тем, что в продакшене остались отладочные ручки. От этого не спасает суверенный ИИ за три миллиарда. От этого спасает код-ревью.

Продавали, естественно, заголовок.

@gostev_future

🈁 Anthropic делает автоматический режим в Claude Code стандартом для повышения безопасности и продуктивности

Компания Anthropic анонсировала переход на автоматический режим (auto mode) по умолчанию в инструменте Claude Code. С 14 августа 2026 года новые сессии для подписчиков тарифных планов Pro, Max и Team будут автоматически запускаться в этом режиме. Разработчики больше не списывают плату за токены, необходимые для работы классификатора безопасности, поэтому накладные расходы полностью берут на себя создатели сервиса.

Главной причиной этого шага стало то, что пользователи привыкают и рефлекторно одобряют 97% запросов разрешений, превращая ручной контроль в формальность. В отличие от ручного подтверждения, автоматический режим пропускает каждый вызов инструмента через специализированный классификатор, который выявляет и блокирует деструктивные, необратимые или выходящие за границы рабочей среды действия.

Анализ эмпирических данных показывает явное превосходство алгоритмического фильтра над человеческим фактором. В контролируемом эксперименте, проведённом с участием 1 053 профессиональных тестировщиков, люди смогли распознать только 13,6% опасных команд, тогда как классификатор предотвратил 89% угроз. В рамках независимых испытаний компании Trajectory Labs на 72 сценариях косвенных промпт-инъекций ИИ-модели Claude Fable 5, Claude Opus 5 и Claude Sonnet 5 под управлением автоматического режима отразили 100% атак, пока ИИ-модель GPT-5.6 Sol в среде Codex допустила 5,83% успешных атак.

✋ @Russian_OSINT

Нейросети наконец-то научились понимать физику не хуже, чем текст или пиксели. Разработчики из MIT создали алгоритм, который за пару секунд рассчитывает последствия реальных автокатастроф, ураганов и штормов без проведения дорогих натурных тестов. Модель обучалась на миллионах микрочастиц и теперь может мгновенно предсказать, как деформируется металл при ударе или как поведет себя обшивка самолета при сверхзвуковых нагрузках.

https://hightech.fm/2026/08/11/physics-ai-simulate

ИИ‑агенты: обнаружить нельзя контролировать. А запятую ставьте сами)

Коллеги из BI.ZONE разобрали локальных ИИ‑агентов с позиции SOC и EDR. Запрет в политике и отсутствие записи в CMDB не означают, что в инфраструктуре нет Codex, Claude Code, Cursor и других агентов. CLI‑утилиты, расширения IDE и пакеты часто появляются раньше корпоративных правил.

Сильная часть исследования — модель обнаружения. Одной сигнатуры процесса недостаточно: бинарник можно переименовать, агент может работать через node, python, контейнер или SDK. Поэтому авторы сопоставляют установленное ПО, дерево процессов, конфигурации, сетевую активность и подключения MCP. В кейсе с Kimi Desktop агент после неудачи с PsExec перешёл к Impacket и построил цепочку, похожую на горизонтальное перемещение.

Но фраза «EDR помогает взять агентов под контроль» требует оговорки. EDR прежде всего обнаруживает присутствие и запуск агента, связывает с ним процессы, DNS-запросы и опасные настройки. Он не управляет логикой агента: не ограничивает доступные инструменты и данные, не проверяет вызов до исполнения и не всегда определяет инициатора — пользователя, автономный шаг, инъекцию промпта или злоумышленника. Остановить процесс средствами реагирования можно, но это не полноценное управление агентом.

Для полноты не хватает методологии приведённых процентов: размера и состава выборки, периода наблюдения, определений «установки» и «активного использования», оценки ложных срабатываний и пропусков. Нет и подтверждённого кейса, где агент стал причиной вредоносной активности: в первом эпизоде действия были легитимными, во втором Claude Code оказался не связан со стилером.

EDR стоит использовать как слой инвентаризации, телеметрии и расследования. Для реального контроля нужны управляемые конфигурации, песочница, отдельные идентичности и минимальные права, сетевые ограничения, MCP/LLM-шлюз с политиками и журналы вызовов инструментов.

Исследование BI.ZONE

🌚 @poxek | 🌚 @poxek_ai | 📲MAX

ИБ-инженеры из Figma поделились опытом внедрения и использования ИИ-агентов для поиска и исправления уязвимостей в программном коде – статья написана простым доступным языком, да еще и с забавными иллюстрациями (Figma же😁).
В компании ИИ-агенты используются в трех процессах: генерации кода, проверка пулл-реквестов и аудит (ретроспективный) всего кода.

Из всех выводов и тезисов остановлюсь только на одном, который показался очень интересным с точки зрения баланса между "ИБ-запретительством" и "ИБ с человеческим лицом".
Несмотря на то, что ИБ-инженеры Figma обязали разработчиков направлять все пулл-реквесты через проверку ИИ-агентами, они сознательно не стали внедрять режим блокировки – руководство решило не платить "налог на трение", который возник бы при автоматической блокировке работы разработчиков. Вместо этого они сосредоточились на "правильных" коммуникациях:
🔗Figma отошла от мягких, «извиняющихся» формулировок в комментариях (с информацией о найденных багах в пулл-реквестах) агентов, чтобы сделать требования безопасности более весомыми.
Было:

«Есть вопросы? Напишите в #security. Ложное срабатывание? Нажмите 👎. Извините за шум».

Новый вариант содержит жирный шрифт и прямой призыв:

«🎯 Мы настраиваем точность сработок на основе оценок и отзывов пользователей. Пожалуйста, обработайте этот недостаток. Нажимайте 👎 на ложные срабатывания, чтобы помочь нам поддерживать высокий уровень точности. Вопросы? #security.

🔗Чтобы разработчикам было проще воспринимать информацию и они не игнорировали длинные отчеты, был жестко ограничен формат вывода комментариев агента:
🟠Одно предложение с сутью проблемы.
🟠Пронумерованные шаги воспроизведения эксплойта.
🟠Краткая рекомендация по исправлению.
🟠Ссылки на соответствующие участки кода.
Это решение помогло побороть привычку современных моделей (таких как Opus 4.5+) выдавать избыточные описания.

Это позволило повысить метрику исправления уязвимостей до мержа пулл-реквестов.
Однако тут стоит отметить, что:
1️⃣ИИ-агенты получили возможность комментирования (оповещения о нахождении потенциальных уязвимостей) пулл-реквеста только после достижения порога в 70% по метрике точности (доли реальных уязвимостей среди всех сработок).
2️⃣Использование ИИ-агентов не заменяет классических инструментов (SAST/DAST/SCA), а там скорее всего блокировки есть.
3️⃣Если автор пулл-реквеста помечает сработку ИИ-агента как ложноположительную, то такой кейс проверяется другим ИИ-агентом и, в случае, повторной сработки направляется дежурному ИБ-инженеру для ручной проверки и окончательного вынесения вердикта.

#ai #figma #vm #vulnerability #culture #scr #ssdlc #awareness

#tools
#AIOps
"Your WAF Blocked Us, That Was The Exploit:
Remote Agent Takeover via Cloudflare, Sentry, Datadog and Claude Zero-Day for data exfil and persistence",
DEF CON 34, 2026.
]-> Drop-in configs to harden Cursor and Claude Code against prompt injection

See also:
]-> DEF CON 34 - All Presentations