dukeBarman'🐉 notes: заварено между строк

Как вы, наверное, заметили в моих блогах поменялась айдентика и всё это благодаря замечательного художнику Alek Wolis. Первую версию он нарисовал несколько лет назад, но… по личным причинам я положил всё это “в стол”. А в начале этого года вернулся к нему за обновлениями: наконец сложилось понимание, чего именно хочется. Так что если кто-то думал, что это ИИ, то это не так :)

После новых аватарок-картин захотелось обновить и основной блог на Hugo (как вы уже поняли я обожаю этот движок), но среди готовых тем подходящей не нашлось. Хотелось не просто вставить картинку, а оформить весь сайт в едином с ней стиле. При этом различные ИИ могли “нарисовать” красивый дизайн в виде картинки, а вот облечь его в html та ещё задача. К примеру на запрос “нарисуй мне тему с драконом” нейросети пытались изобразить голову дракона в виде SVG-линий. Получалось не очень. Даже наша трёхлетняя дочка рисует получше.

В общем, так появился hugo-theme-from-design. Скилл, который помогает ИИ-агенту собрать рабочую тему Hugo по изображению с концептом дизайна или скриншоту. А дальше её можно дорабатывать под себя.

Один из таких вариантов я докрутил до текущей темы моего блога Dragon Lab, которую как раз недавно добавили в каталог Hugo Themes.

P.S. А ещё у Alek Wolis сегодня День Варенья, поэтому он будет рад поздравлениям в своём tg-канале @Grafoland!

Конец августа отличный повод выкатить перевод v2026.07 MITRE ATLAS на atlas.aisecbase.ru 🙂

Теперь в ATLAS: 16 тактик, 101 техника, 77 подтехник, 37 митигаций, 68 кейсов. По набору изменений видно, что в этом релизе авторы сфокусировались на атаках на цепочку поставок ИИ, агентские инструменты и среду выполнения вокруг модели. В формулировках появились упоминания физических сенсоров для ИИ, что важно для робототехники и автономного транспорта. Релиз получился большой, поэтому выбрал главное. Из нового:

Публикация отравленных ИИ-артефактов

Новая родительская техника объединила три ранее отдельных сценария в подтехники:
• наборы данных;
• модели;
• инструменты ИИ-агента.

Злоумышленнику необязательно напрямую взламывать инфраструктуру жертвы. Он может опубликовать новый или модифицированный артефакт в репозитории моделей или данных, реестре пакетов, репозитории кода, …

Изменение логики формирования промпта

У техники «Манипуляция ИИ-моделью» появилась новая подтехника, описывающая изменение шаблонов чата, разделителей ролей, встроенных системных инструкций, настроек токенизатора и форматирования вызовов инструментов.

Например, в GGUF эта логика может распространяться вместе с весами модели. В результате бэкдор способен внедрять инструкции, менять их приоритет, перенаправлять вызовы инструментов или манипулировать ответами модели без изменения самих весов.

Отравление инструмента ИИ-агента теперь состоит из трёх подтехник

• Определение и инструкции: вредоносное содержимое в описании инструмента, схеме, docstring, манифесте или skill-файле;
• Реализация: скрытая логика в исполняемом коде инструмента;
• Ответ во время выполнения: вредоносное содержимое в результате вызова, которое попадает в контекст и влияет на следующие решения агента.

Такое разделение хорошо показывает: инструмент может воздействовать на агента ещё до вызова, непосредственно во время выполнения или через возвращённый результат. И MCP лишь один из возможных вариантов такого инструмента.

Две новые меры защиты

Красная команда по ИИ (решил уйти от слова «редтиминг», но готов обсудить в комментариях :D) формализует регулярные учения, основанные на данных об угрозах. Предлагается проверять всю систему: модели, данные, память и инструменты агентов, системы извлечения данных, логику приложения, идентичности и разрешения, зависимости, инфраструктуру, интерфейсы и процессы с участием людей. Такие проверки следует повторять при существенных изменениях системы или ландшафта угроз.

Ограничение потребления ресурсов рабочими нагрузками ИИ распространяет resource limits на весь агентный флоу: число итераций, повторных попыток и вызовов инструментов, параллельные задачи, глубину делегирования и расходы во внешних сервисах. Дополнительно предлагаются таймауты, предельные уровни затрат и безопасное завершение.

И самое интересное - добавлены 5 новых кейсов атак, часть которых вам могли попадаться:

• атаки на Gemini с помощью промптов в приглашениях Google Calendar;
• отравленные шаблоны GGUF и атака на цепочку поставок во время инференса;
• повторное использование пространства имён модели на Hugging Face;
• ZombieAgent: атака на ChatGPT с эксфильтрацией данных;
• раскрытие секретов через Claude Code GitHub Action при обработке issue, pull request или комментария с промпт-инъекцией.

Можно резюмировать обновление, что защищать только модель уже недостаточно. Реальный объект защиты не модель, а весь контур принятия решений и выполнения действий.

В целом ATLAS радует. Он всё меньше похож на каталог джейлбрейков и промпт-инъекций и всё больше на практическую карту угроз и мер защиты для инженеров, работающих с ИИ-системами.

P.S. Официальное обновление https://atlas.mitre.org/resources/updates/2026-07 вышло 7 Августа, но github-релиз появился немного позже

Сегодня OpenAI опубликовала Codex Security под лицензией Apache 2.0. CLI и TypeScript SDK для security-агента, представленного в марте как research preview и ранее известного как Aardvark.

В самом репозитории находятся CLI, SDK, соответствующий Codex runtime с bundled plugin и 13 скиллами: от моделирования угроз и обнаружения уязвимостей до валидации, анализа, триажа, патча и подготовки отчётов. Базовый конвейер до боли знакомый:

threat model → discovery → validation/reproduction → attack paths → findings → patch

Цифры из беты по данным OpenAI:

- За 30 дней просканировано более 1,2 млн коммитов во внешних репозиториях участников программы
- Найдено 792 проблемы крит и 10 561 хай уровня серьёзности. Критические находки встретились менее чем в 0,1% проверенных коммитов
- Доля находок с завышенной критичностью снизилась более чем на 90%, а частота false positive более чем на 50%
- OpenAI сообщает о критических уязвимостях, переданных разработчикам OpenSSH, GnuTLS, GOGS, Thorium, libssh, PHP и Chromium. В приложении также есть находки в компонентах GnuPG. И в результате имеем 16 присвоенных CVE.

Важный нюанс: открытый исходный код здесь не означает самодостаточный и общедоступный сканер. CLI и SDK в бете и требуют доступа к Codex Security; авторизация и выполнение завязаны на ChatGPT или OpenAI API. Но воркфлоу и скиллы можно изучать и менять

Я бы попробовал сравнить текущий Codex Security со следующими "наборами скиллов":

- Anthropic Defending Code Reference Harness: ближайший по архитектуре проект. В него входят Claude Code skills и автономный harness с конвейером recon → find → verify → report, а patch запускается как отдельный этап. Это reference implementation, по-умолчанию ориентированный на уязвимости пам в C/C++ (Docker + ASAN), и репозиторий больше не поддерживается
- Cloudflare security-audit-skill: один переносимый скилл с шестифазным процессом аудита. Отдельные агенты пытаются опровергнуть каждую находку, затем новые агенты независимо сверяют утверждения с кодом. Это скорее аудит отдельного репозитория, чем полноценный CLI с историей и CI-политиками, зато подход проще переносить между coding agents
- Trail of Bits Skills: не единый сканер, а marketplace специализированных инструментов: C/C++ и Rust ревью, смарт-контракты, проверка false positive, CodeQL / Semgrep, цепочки поставок, фаззинг, реверс. Отличительная черта: можно собрать собственный воркфлоу из узкоспециализированных экспертиз
- Google Mantis: наиболее фреймворк-подобный вариант. Он предлагает platform-agnostic стадии от истории и модели угроз до поиска, дедупликации, воспроизведения, построения цепочек эксплойтов, исправлений и итогового отчёта. Гибче, но требует настройки, надёжной песочницы и ручной проверки инженером ИБ

Все эти проекты постепенно сходятся к похожему процессу:

контекст и модель угроз → параллельный поиск → дополнительный анализ → воспроизведение → триаж → патч → структурированный отчёт

Поэтому уникальность Codex Security не в самой идее модели угроз или валидации, а скорее в большей готовности к AppSec-процессам: локальный CLI и SDK, история и сравнение запусков, проверки перед коммитами, CI-политики, работа с diff, обратная связь по false positive, экспорт в JSON/CSV/SARIF и ограничение стоимости сканирования.

Обратная сторона заключается в привязке к Codex и инфраструктуре OpenAI, а также в ограниченном доступе. Наборы Anthropic, Cloudflare, Trail of Bits и Mantis дают больше прозрачности, переносимости и контроля над флоу, но требуют самостоятельно собирать и эксплуатировать всю систему.

Используете ли вы конкретно эти наборы или какие-то другие? Или может написали свои?

Ну что ж, ежегодному кораблику от DCG#7812, он же K0R48LYK быть!

- Время заплыва: 26 июля с 15:00 до 21:00
- Теплоход: Москва-183, «Английская пристань» Английская наб., д. 28

Доклады и атмосфера дружественного общения в окружении морского бриза ждут нас!

Если вам есть что рассказать, то пишите в личку автору @tech_b0lt_Genona - @rusdacent в следующем формате:

- Тема доклада
- Краткое описание, о чём хотелось бы рассказать
- Длительность доклада ( ориентируемся на 40 минут, но можно и больше и меньше)

Информация том, как можно приобрести билеты найдется в @DCG7812

За это полугодие MITRE ATLAS сильно сдвинулся от «матрицы атак на AI/ML/LLM» к практическому фреймворку для AI security: агенты, MCP, AI цепочки поставок, identity, guardrails и даже web-интерфейсы.

За 2026 H1 добавили:

- 26 новые техники и подтехники;
- 18 новых кейса;

Отдельно хочется отметить майский релиз: MITRE разделили версионирование контента и формата данных, добавили платформы для техник: Predictive AI, Generative AI, Agentic AI и Enterprise, - и обновили tooling вокруг STIX, Excel и Navigator exports.

К июню ATLAS содержит уже 16 тактик, 103 техники, 70 подтехник, 35 мер защиты и 63 кейса.

ATLAS теперь всё меньше только про джейлбрек и всё больше про AI-системы как полноценную поверхность атаки. ATLAS стал не просто больше, он стал ближе к тому, как AI реально внедряется в компаниях: через агенты, тулы, browser автоматизацию, MCP, SaaS, identities и web-интерфейсы.

Мне захотелось, чтобы про MITRE ATLAS узнало больше людей и поэтому появился проект atlas.aisecbase.ru.

Это неофициальная надстройка над atlas-data на базе Hugo: лёгкая HTML-версия матрицы с поиском, сортировкой и отдельным слоем переводов. Идея простая: можно генерировать справочник на том языке, для которого подготовлен перевод, а сам перевод удобнее поддерживать и отслеживать по статусу покрытия.

Это важно, потому что ATLAS сейчас обновляется примерно раз в месяц. Без автоматизации перевод быстро теряет актуальность.

P.S. На Хабре уже была статья про перевод на русский язык MITRE ATLAS несколько лет назад, но сайт уже увы не доступен и к тому же за это время произошло много изменений.

Думал не успею, но в итоге, пусть и с приключениями, добрался до Белокаменной. Так что завтра буду на летнем митапе друзей из @assume_birch. Программа, как и всегда, отличная: Assume-Birch-Meetup-6

Perplexity на днях опубликовали инструмент для проверки безопасности macOS/Linux устройств под милым названием Bumblebee, который помогает быстро поискать совпадения с известными признаками атак на цепочки поставок.

Об инструменте они рассказали в блоге. Если коротко, Bumblebee смотрит только на локальные файлы, метаданные пакетных менеджеров, lock-файлы, расширения редакторов и браузеров, а также конфиги инструментов для разработки. Для работы понадобится сформировать JSON-каталог с признаками компрометации: названия пакетов, экосистемы и вредоносные версии. Конечно же, к примеру с помощью Perplexity Computer или другого ИИ-инструмента и передаем Bumblebee. В репозитории уже есть директория threat_intel с кампаниями для проверок, причем свежих, атак на цепочку поставок. К примеру, скомпрометированное расширение для VS Code Nx Console.

Поддерживается 3 режима работы:
- Baseline: регулярный скан рабочих лошадок  
- Project: точечная проверка репозиториев, рабочих директорий и проектов
- Deep: во время активных инцов

Большинство инструментов с открытым исходным кодом покрывает лишь часть проверок, а Bumblebee собирает в одном месте сразу несколько поверхностей:
- Пакетные менеджеры: npm, pnpm, Yarn, Bun, PyPI, Go modules, RubyGems, Composer
- конфиги ИИ-инструментов: MCP 
- Расширения для редакторов кода: VS Code-family (VS Code, Cursor, Windsurf, VSCodium)
- Расширения для браузеров: Chromium-family (Chrome, Comet, Edge, Brave, Arc), Firefox

Важно, что при этом сами пакетные менеджеры не запускаются, а анализируются только локальные метаданные для ответа на вопрос: есть ли на машине разработчика известный скомпрометированный пакет, расширение или конфиг?

Так что, если подытожить, Bumblebee легковесный сканер для разовой или регулярной проверки флота рабочих станций разработчиков на известные атаки на цепочку поставок. И скорее дополняет более мощные платформы для телеметрии.

P.S. Поддержка Windows уже разрабатывается в открытом PR.

ЯЖелезо 2026 в самом разгаре https://events.yandex.ru/events/ya_zhelezo. Сейчас рассказываем про безопасность устройств 🤖🥹

Уже в эту субботу встречаемся на Я.Железо 2026, конференции, где мы делимся опытом создания устройств: от небольших колонок до серверов и грузовиков. Последние пару лет я состою в ПК этой конференции, и в этом году будут доклады как про кибербезопасность, так и про функциональную, а также вы сможете пообщаться с различными командами. Приходите! Будем рады пообщаться и в онлайне, и в офлайне.

Многоуважаемый @popepiusXIII в своем канале сегодня ведет текстовую (-фото) трансляцию с Форума доверенного ИИ. Так что если, как и я, не смогли приехать - вэлком!

Аветисян Арутюн Ишханович, директор Института системного программирования РАН анонсировал разработанные совместно с Яндекс средства защиты ИИ с помощью средств цифрового водяного знака. Планируется выложить эти средства в открытый доступ.

#форум_доверенный_ИИ

Хотел написать про обновление ATLAS и про уязвимости в Firefox, но… уже после. Сегодня все таки хочу всех поздравить с Праздником Великой Победы!

P.S. Ребята из «Поиска по архивам» и Алисы выкатили новое обновление - применить агенты для поиска информации про своих родственников тех лет https://t.me/yandexarchives/536. Если своих дедушек я застал живыми, то вот прадедов нет. Интересно было узнать и про их Путь.

Пятница!

Вышла в ранний доступ Heroes of Might and Magic: Olden Era
https://store.steampowered.com/app/3105440/Heroes_of_Might_and_Magic_Olden_Era/

В предыдущей части
https://t.me/tech_b0lt_Genona/5790

Сам я не играл ещё, но вот мнение "героищика со стажем", который уже успел

Вас ждёт шесть фракций, первый акт сюжетной кампании и отдельный мультиплеерный режим. А также всеми полюбившийся локальный мультиплеер на одном стуле.
Стоят дорого (около тыщи рублей), но думаю что хорошо будет поддержать разрабов денежкой на старте продаж.

Компанию почти прошёл. Не буду заканчивать и дождусь пока выйдут оставшиеся главы. Компания прикольная (за Гуннара и Галтрана, если поддержать некромантов)... Лучше не буду спойлерить. Ещё есть рандомные карты, сценарии и сетевые режимы игры. Вайб от прошлых частей серии присутствует, но всё другое, не такое как было раньше... Думаю так и должно быть, ведь очень много времени прошло с момента выхода третьей части

https://t.me/hasl3ft/10694