Матвей Кукуй, бложик

Однажды я решил что не нужно искать оправдания новым 3д-принтерам. Это будет восьмой...

Кто в молодости не был радикалом — у того нет сердца; кто в зрелости не стал консерватором — у того нет ума.

Я, в принципе, очень горд что идея засунуть по 100к объектов любого типа в базу данных и проверить как работает Аркестра пришла команде не в пятницу вечером как в прошлый раз перед релизом, а в среду.

Меня, как вы, наверное, заметили, очень вдохновляет пересечение AI и хардвара. По этому поводу я даже запустил некий дорогой хобби-эксперимент, который (надеюсь) закончится через месяц, и я обязательно поделюсь результатами.

А сегодня расскажу, что я купил китайский принтер для наклеек и очень не захотел ставить прилагающиеся драйвера.

Навайбкодил свои драйвера.

Печатает 🤯

Opus 5.5 творит чудеса в видеомонтаже. Это один промпт.

"У меня бардак в шкафчике. Найди в интернете чертежи, перечерти, и смоделируй 3д-печатные ящики."

🤯🤯🤯

https://reopenscad.com/shared/883a429172f018d75b08c53cb77786ef

Прошло три года, а кажется, вечность.

Общаемся про OpenAPPA с компаниями, и, тк интересуется, в основном, C-level, у нас новый мем:

"Top-down OSS adoption"

699k просмотров! 🤯

Вчера был такой бурный день, что у велосипеда по дороге домой сгорела проводка. Смотрите какую крутую штуку выдают на замену! Это 12-скоростной C-Line, который уже не выпускают, при этом на нем современная электроника.

Про OpenAPPA вышел Fireship, за 20 минут 25к просмотров... https://www.youtube.com/watch?v=I_KVMFrUtPk

Простите 😅

🎉 статью про OpenAPPA приняли на NeurIPS воркшоп. Так что теперь я официально не безумец, а мамкин ресерчер

А еще, на сайте аппы есть пасхалка и ее можно заставить танцевать 🙂

Девять лет назад я участвовал в необычных соревнованиях на Kaggle: нужно было делать adversarial атаки на нейросеть и защищаться от них. Участники сабмитили свои решения и пытались атаковать/защищаться. Я кое-как заимплементил FGSM и Карлини-Вагнера для атаки и навелосипедил что-то типа test-time augmentation для защиты. Сабмит с защитой почему-то не отработал, атаки показали себя едва лучше медианного участника, в общем, даже бронзовой медальки мне не досталось.

Это было моё самое близкое знакомство с AI/ML Security, пока фаундеры на нынешней работе не загнали меня в угол и не заставили ковырять агентскую безопасность. Спустя три месяца мы релизим OpenAPPA - Agentic Permissions Policy Algebra.

APPA - это переосмысление классического information flow control под агентские нужды. Главная проблема текущей агентской безопасности в том, что тулколл оценивают в вакууме. Авто-моды и LLM-ревьюеры просят вторую модель угадать, выглядит ли действие безопасным. Чтобы эту модель саму не накачали промпт-инъекцией, из её контекста обычно вырезают предыдущие выводы тулов. В итоге ревьюер видит curl ... и понятия не имеет, что в пейлоаде: публичный README, креды от прод-базы или секреты клиента, которые агент прочитал два хода назад.

Как это решает APPA:

1. Контроль происхождения данных (provenance), а не команд в вакууме. В отличие от чёрно-белых списков, тут не нужен ворох ифов и регулярок. В отличие от auto-mode в кодинг-агентах, APPA смотрит не на то, «выглядит ли команда безобидно», а откуда пришли данные и куда текут. Сами полиси при этом остаются компактными: не надо расписывать комбинаторный взрыв сочетаний — достаточно разметить источники и приемники (sources and sinks), остальное движок инферит по траектории сам.
2. Remedy-планы вместо дедлоков. Плохой секьюрити-софт либо дырявый, либо превращает агента в бесполезный кирпич при первой же ошибке. APPA возвращает не просто отказ, а инструкцию, как его можно обойти в рамках полиси (например, почистить PII через санитайзер, заспавнить сабагента со structured output или спросить человека ровно на один вызов). В итоге utility остаётся на уровне ~90% от бейзлайна (серьёзные конкуренты падают ниже 50%), а оверхед по токенам незначительный - всего +4.2% на Tau-Bench.
3. Под громким словом «алгебра» скрывается нехитрый fold. Буквально одна чистая функция над логом событий (в статье мы пафосно говорим про finite meet-semilattice where permissions only monotonically narrow, но в коде это дружище fold). Просто, но с доказуемыми инвариантами по построению. Зато снаружи к нему можно цеплять любые костыли под грязную реальность: от корпоративного каталога пользователей до локального ML-классификатора, который динамически размечает неструктурированные тулколлы вроде произвольного баша. Благодаря этому любые наработки - от любимой пачки ифов до автомода или jev-классификатора - отлично ложатся как дополнение.

Можно поиграться локально (ставится в Claude Code одной командой), можно примерить для взрослого энтерпрайза (нативная поддержка в платформе archestra.ai), можно как угодно использовать у себя - исходники на гитхабе под MIT.

P.S. Этот пост можно лайкнуть или даже репостнуть в линкедине, заранее большое спасибо!

Встречайте OpenAPPA — результат нашей очень долгой работы, фронтир гардрейлы для предотвращения слива данных агентами.

OpenAPPA превосходит на бенчмарках auto mode от Anthropic и FIDES от Microsoft, а еще она опенсорс! Аппу можно встроить практически в любого агента, SaaS или кодингового агента.

https://archestra.ai/blog/announcing-openappa

https://www.openappa.com/

В выходные начал собирать умный дом для лондонской квартиры. Подключил лампочки, пылесос, разложил по всему дому пульты с разными режимами.

И тут произошел очередной вау-ИИ момент. Я попросил Claude поискать чертежи пультов, посмотреть в конкретно моей базе, какой режим за что отвечает и смоделировать чехлы с пиктограммами чтобы не забыть. Например, пульт на кухне умеет только вызывать пылесос, а вот в гостиной он еще и контролирует свет. Результат напечатался и идеально защелкнулся.

Вручную я бы это чертил, наверное, часа 4...

В понедельник запускаем что-то большое 🙂

Когда в очередной раз разговор о продукте с кастомером медленно перешел к ответственному по M&A...

(НЕТ МЫ НЕ ПРОДАЕМ АРКЕСТРУ, ГОСПОДИ, ДАЙТЕ ПОРАБОТАТЬ)

Съездил на один день в Тель Авив и приятно удивлен тому, что, наконец, появилась дорожная полиция. Таксисты перестали накидывать 100$ за разговор на английском у аэропорта, а электровелосипеды носиться по набережной на скорости 60км/ч.

Мечтаю когда в Израиле будут отнимать права за наезд колесом на двойную сплошную 🙏 Привилегия ездить как угодно стоит нам 200+ жизней в год.

P.S. А еще выскажу непопулярное мнение, но Waze, приложенька, которая помогает водителям узнавать про патруль заранее — это позорище.