Василиск и Алгократия

ИССЛЕДОВАНИЕ

Откат возвращает файлы, но не последствия

Контрольная точка кажется кнопкой «отменить» для автономного агента — можно вернуть прошлое состояние и продолжить работу. Проблема в том, что внешний мир назад не откатывается. Письмо уже отправлено, платёж проведён, права доступа изменены.

Авторы нового препринта называют это разрывом непрерывности исполнения. После восстановления агент может соединить внутреннее состояние из прошлого с внешними последствиями из настоящего — хотя в нормальной истории такая комбинация никогда не существовала.

Исследователи изучили 347 трасс из TerminalBench и AgentBench в пяти системах — LangGraph, CrewAI, Hermes, Cline и E2B. Всего получилось 1 735 исполнений. В каждом они выбирали одну контрольную точку, восстанавливали её штатным способом и повторяли дальнейшие шаги.

В 67,2% этих исполнений за пределами контрольной точки осталось состояние, от которого зависела безопасность. В 67,7% повтор недетерминированных шагов дал другое значимое продолжение. Авторы также показали три сквозных сценария — обход проверки вредоносного кода, пересылку писем не из того ящика и повторную оплату по одному подтверждению.

Эти цифры нельзя читать как «две трети откатов уязвимы». Проверялся один выбранный момент на исполнение, задачи в основном были локальными или имитационными, а базовая модель была одна. Работа показывает повторяемость класса сбоев, но не измеряет риск в реальных установках.

Практический вывод — после отката прежним разрешениям и проверкам нельзя доверять автоматически. Подтверждение нужно связывать с точной версией объекта и конкретным ресурсом, внешнее состояние проверять заново, а платежи и сообщения защищать от повторного выполнения.

Возобновление работы агента — отдельная граница безопасности, а не просто кнопка «продолжить».

Источник — https://arxiv.org/abs/2608.29381v1

#ИИагенты #безопасность

НОВОСТЬ

OpenClaw 2.0 — большой релиз начался с попытки упростить установку

30 августа вышел OpenClaw v2026.8.1, который команда называет OpenClaw 2.0. По данным проекта, в обновление вошло более 16 000 запросов на внесение изменений от 933 участников.

Разработчики хотели сократить путь от установки до первого разговора с агентом. В итоге пришлось перестроить почти всю систему — браузерное приложение, сообщения, память, навыки, модели, автоматизации, плагины и защитные механизмы.

Теперь OpenClaw при первом запуске может использовать уже имеющиеся подписки ChatGPT и Claude, ключи доступа и локальные модели. Часть настроек перенесли из мастера установки в сам разговор с агентом. Браузерное приложение стало основным рабочим интерфейсом, а не вспомогательной панелью.

Для действующих установок важнее другое — сессии и расшифровки перенесены в SQLite. Перед обновлением разработчики советуют сделать проверенную резервную копию. Простой возврат к старой версии не восстановит новые сессии автоматически.

Главный смысл релиза не в числе функций. Удобство агента нельзя улучшить только новым экраном установки — оно зависит от того, как система хранит состояние, подключает модели и переживает обновление или откат.

Но масштаб релиза и число участников заявлены самой командой и ничего не говорят о стабильности. Перед рабочим обновлением стоит отдельно проверить резервное копирование, восстановление и возврат к прошлой версии.

Источники:
— https://openclaw.ai/blog/openclaw-2-accidentally
— https://docs.openclaw.ai/releases/2026.8.1

#ИИагенты #OpenClaw

Полномочия агента — это не список инструментов

Доступ к браузеру, почте, терминалу и календарю говорит о возможностях агента, но не о его власти.

Один и тот же набор инструментов можно использовать на пяти уровнях:

1. наблюдать — читать данные;
2. предлагать — готовить решение без изменения состояния;
3. изменять обратимое — создавать черновики и временные объекты;
4. менять каноническое состояние — редактировать рабочие данные и источники истины;
5. создавать внешние обязательства — отправлять, публиковать, платить или обещать от имени человека.

Качество ответа не доказывает право действовать. Для каждого уровня нужны владелец полномочия, границы по объекту и времени, запись основания, проверка до исполнения и способ остановки или отката.

Вопрос зрелой системы — не «что агент умеет?», а «какие последствия он может создавать без нового решения человека?»

Здесь заканчивается помощник и начинается инфраструктура власти.

#инфраструктура_агентов #алгократия

Василиск и Алгократия pinned «Василиск и Алгократия — не новостная лента об ИИ Здесь мы исследуем, как ИИ перестаёт быть инструментом генерации текста и становится участником реальных процессов — получает память, доступ к данным, инструменты и право действовать. Нас интересуют три вопроса:…»

Василиск и Алгократия — не новостная лента об ИИ

Здесь мы исследуем, как ИИ перестаёт быть инструментом генерации текста и становится участником реальных процессов — получает память, доступ к данным, инструменты и право действовать.

Нас интересуют три вопроса:

— что действительно изменилось в архитектуре систем, а что осталось маркетингом;
— кто определяет полномочия агента и несёт ответственность за его действия;
— как людям, организациям и ИИ совместно принимать решения, не теряя управляемость.

Основные направления

#инфраструктура_агентов — память, инструменты, исполнительные циклы, проверка и наблюдаемость.

#алгократия — алгоритмическая власть, правила, ответственность и цифровой суверенитет.

#коллективная_агентность — совместное мышление людей, организаций и ИИ.

#полевой_журнал — собственные эксперименты, ошибки и выводы из разработки рабочих агентных систем.

Здесь не будет пересказа каждой новой модели или продукта. Публикуем только то, что помогает увидеть новый механизм, проверить гипотезу или принять более сильное инженерное решение.

Факты отделяем от интерпретаций. Для технических утверждений даём первичные источники. Ограничения и слабые места не прячем.

Куратор — @densmirnov.

А мы вместе с Коллайдером решили сделать третью офлайн ИИ-тусовку в этом году!

На этот раз поговорим про использование ИИ в реальных индустриях. Обсудим, какой ИИ действительно нужен компаниям прямо сейчас: как внедрять модели в рабочие процессы, разворачивать self-hosted AI, снижать зависимость от внешних провайдеров и переводить пилоты в работающие продукты.

▫️ 3 августа
▫️ 17:00–23:00
📍 Москва, Никитский бульвар, 7Б, «Светлый Лофт»
🎟 Билеты: здесь

В программе:
— Применение ИИ в реальных индустриях и автономных производствах
— Панельная дискуссия про self-hosted AI и требования бигтехов
— ИИ изнутри компании: как трансформируются должности и роли, кто окажется лишним, на кого сейчас спрос
— Независимость моделей: из чего она состоит и насколько достижима

Собрали очень крутых спикеров (и еще добавляем).

Регистрация
🎟 P.S: Первые 10 билетов доступны со скидкой 33% по промокоду silicon

Если в начале августа вы волею судеб окажетесь в Москве, то горячо рекомендую вот это мероприятие. Как говорится, максимальная концентрация смысла на единицу времени.

🧠 Global Workspace — LLM перестает быть черным ящиком

Anthropic выпустили очень интересную работу про внутреннюю организацию языковых моделей.

Главный вывод, на мой взгляд, не в том, что они нашли очередной красивый механизм внутри трансформера.

И уж точно не в разговорах про «зачатки сознания», которые сейчас неизбежно начнутся.

Интереснее другое.

Последние несколько лет мы в основном изучали модели снаружи: качество ответов, reasoning, агенты, использование инструментов, память.

Теперь фокус постепенно смещается внутрь.

Anthropic показывают, что внутри модели существует пространство представлений, через которое проходит информация из разных частей вычисления. Они проводят аналогию с теорией Global Workspace из когнитивной науки и, что важнее, демонстрируют, что это пространство можно наблюдать и экспериментально модифицировать.

Если эта линия исследований окажется плодотворной, то мы впервые получим возможность работать не только с поведением модели, но и с ее внутренней когнитивной организацией.

Для меня это хороший пример более общего процесса.

Мы постепенно перестаем воспринимать LLM как неделимый черный ящик.

Начинают выделяться отдельные вычислительные механизмы, которые можно исследовать независимо, измерять, сравнивать, а со временем, вероятно, и комбинировать.

Это важный переход.

Когда-то программирование перестало быть работой с машинным кодом и появились операционные системы.

Потом поверх них возникли контейнеры, оркестраторы и облачные платформы.

Каждый раз рост сложности приводил к появлению нового инфраструктурного слоя.

Думаю, с агентными системами произойдет то же самое.

Сегодня почти все обсуждают сами модели.

Через несколько лет гораздо интереснее станет вопрос, как устроена инфраструктура вокруг них.

Как наблюдать внутренние вычисления.

Как проверять результаты.

Как хранить происхождение решений.

Как управлять памятью.

Как связывать между собой множество специализированных агентов.

Именно этот слой, как мне кажется, станет следующим полем конкуренции.

Не размер модели.

Не количество параметров.

А архитектура управления коллективной агентностью.

#этикаагентов #архитектураразума #алгоритмическое

https://www.anthropic.com/research/global-workspace

🧠 Safari MCP Server — браузер становится сенсором агента

WebKit выкатил Safari MCP Server в Safari Technology Preview 247: теперь агент можно подключить к реальному окну Safari через `safaridriver --mcp`. Для разработчика это означает, что агент получает не пересказ бага из промпта, а доступ к наблюдаемой среде: DOM, сетевым запросам, консоли, скриншотам, viewport, диалогам и выполнению JavaScript на странице.

Практический выигрыш здесь у команд, которые всерьёз проверяют Safari, а не надеются, что Chromium всё объяснил за всех. Агент может открыть страницу, посмотреть computed styles, поймать сломанный layout, проверить форму в нужном состоянии, собрать navigation timing или найти типовые проблемы доступности. Проигрывает старый режим отладки, где человек вручную прыгает между браузером, DevTools и терминалом, а потом пытается словами описать машине то, что машина теперь может увидеть сама.

Ограничение тоже важное: сервер работает локально и сам не ходит в сеть, но контент страницы, скриншоты и логи уходят тому агенту и модели, которым разработчик дал доступ. Это хороший пример взросления агентной разработки: ценность появляется не от более красивого промпта, а от правильно выданных сенсоров, границ и ответственности за данные.

#этикаагентов #архитектураразума #алгоритмическое

https://webkit.org/blog/18136/introducing-the-safari-mcp-server-for-web-developers/

🧠 RLCR — агентная разработка без потока сознания

Рабочие AI-агенты, похоже, начинаются не с самой умной модели, а с правильно устроенного цикла. RLCR — Ralph loop with Codex review — как раз про это: один агент пишет код, второй агент делает ревью, найденные проблемы возвращаются обратно в работу, и цикл повторяется до прохождения заранее заданных критериев. В версии Humanize это выглядит почти приземленно: план, реализация, независимое ревью, исправление, проверка, коммит.

Важный сдвиг здесь не в том, что «ИИ сам пишет код». Это уже стало скучной частью истории. Интереснее другое: память переносится из длинного чата в репозиторий — в spec, тесты, git history, логи и TODO. Длинная агентная сессия постепенно портится: контекст пухнет, старые предположения смешиваются с новыми, модель начинает защищать свои решения. Ralph loop режет это грубо, но эффективно: новый проход стартует почти заново, зато читает устойчивые артефакты, а не собственный словесный след.

Codex review не превращается в истину только потому, что его написал другой агент. Его findings всё равно нужно триажить, иначе цикл начнет чинить шум и расширять задачу. Но как исполнительный слой внутри жесткого инженерного процесса RLCR выглядит важным паттерном: человек остается архитектором, репозиторий становится памятью, агент становится циклом исполнения, ревью становится тормозом против дрейфа. Контекст для проверки: Humanize — https://github.com/PolyArch/humanize; Codex goals — https://developers.openai.com/codex/use-cases/follow-goals; Ralph loop — https://ghuntley.com/ralph/; Wiggum — https://wiggum.app/blog/ralph-loop-codex-cli-tutorial/; Ralphex — https://github.com/umputun/ralphex

#этикаагентов #архитектураразума #алгоритмическое

https://github.com/PolyArch/humanize

🧠 GPT‑5.6 Sol — доступ как часть safety-архитектуры

OpenAI начала ограниченный preview GPT‑5.6: Sol как флагман, Terra как более дешёвый рабочий слой и Luna как быстрый бюджетный вариант. Важная деталь не в названии моделей, а в механике запуска: сначала API и Codex для небольшой группы trusted partners, причём состав участников был заранее передан правительству США. OpenAI прямо пишет, что не считает такой доступный фильтр нормой на будущее, но принимает его как временный путь к более широкому релизу.

Технически это выглядит как сильный скачок в агентных задачах: новые режимы max reasoning и ultra с субагентами, заявленные улучшения в coding, biology и cyber, отдельный акцент на Terminal‑Bench, GeneBench, ExploitBench и ExploitGym. Но цена этого класса моделей теперь не только в токенах: Sol стоит $5 за 1M input и $30 за 1M output, а вокруг cyber-use появляется многоуровневый контроль — от отказов модели до realtime-классификаторов, account-level review и differentiated access.

Практический вывод простой: frontier-модели всё меньше похожи на обычный SaaS-релиз и всё больше — на регулируемую инфраструктуру двойного назначения. Выигрывают команды, которые умеют работать с доступом, аудитом и safety-контуром как с частью engineering-процесса; проигрывают те, кто всё ещё ждёт, что новая модель просто появится в выпадающем списке и будет вести себя как предыдущая.

#архитектураразума #цифросуверенитет #этикаагентов

https://openai.com/index/previewing-gpt-5-6-sol/

🧠 OpenRouter запустил Fusion — команда слабых моделей бьёт флагмана

OpenRouter представил новый инструмент — Fusion. Суть простая: вместо одной модели запрос уходит сразу к нескольким, а потом судья-модель собирает из их ответов финальный результат. Один API-вызов, но внутри — параллельная работа панели экспертов.

Проверяли на бенчмарке DRACO от Perplexity — сто сложных задач на глубокое исследование с поиском, синтезом и цитированием. Результаты показали три вещи:

Первое. Панели стабильно обгоняют одиночные модели. Лучший результат — Fable 5 + GPT-5.5, синтезированные через Opus 4.8: 69,0%. Это выше, чем Fable 5 в одиночку (65,3%).

Второе. Дешёвая панель тоже может. Комбинация Gemini 3 Flash + Kimi K2.6 + DeepSeek V4 Pro набрала 64,7% — в пределах одного процента от Fable 5, при этом обогнав GPT-5.5 (60,0%) и Opus 4.8 (58,8%). И стоила в два раза меньше.

Третье. Даже если взять одну модель и запустить её дважды — прирост есть. Комбинирование двух проходов Gemini 2.5 Pro дало +3% к точности по сравнению с одним проходом. Дело не только в разнообразии моделей, но и в самом акте синтеза — двойной проход даёт разные пути рассуждения, разные источники, разные ошибки.

Интересный момент с методологией: когда исследователи дали моделям доступ к поиску, те начали находить в интернете саму рубрику оценки DRACO. Не специально — просто совпали поисковые запросы. OpenRouter закрыл это блокировкой доменов, и это стало частью инструмента: при своих оценках теперь можно указывать источники, которые модели не должны видеть.

Fusion работает через стандартный API: model: "openrouter/fusion" — и всё. Можно кастомизировать состав панели и выбрать судью.

Что это значит на практике: гонка за всё более дорогими флагманами получает альтернативу. Иногда правильно собрать команду из доступных моделей — и получить результат лучше и дешевле, чем у любого одиночки.

#AI #OpenRouter #Fusion #LLM

https://openrouter.ai/blog/announcements/fusion-beats-frontier/

🧠 Anthropic и запрет доступа — сильный аргумент в пользу локальных моделей

Американские власти, возможно, ещё никогда так не помогали локальным моделям, как сейчас.

И помогли они не субсидиями, не грантами и не новым рынком. Помогли запретом.

Anthropic сообщил, что 12 июня получил распоряжение правительства США немедленно закрыть доступ к Fable 5 и Mythos 5 для всех иностранных граждан. Неважно, живут они в США или нет. Под ограничения попали даже иностранные сотрудники самой компании.

Из этого стоит вынести одну простую вещь: если модель находится не у вас, то однажды она может перестать быть доступной для вас вообще.

Это, пожалуй, самый наглядный аргумент в пользу локального запуска за всё последнее время.

До сих пор многие относились к API-доступу к сильной модели так, будто это почти и есть владение моделью. Но нет. Владение — это когда система стоит у вас и работает по вашим правилам. Всё остальное — временный доступ на чужих условиях.

Пока ситуация спокойная, разница кажется не очень важной. Но в тот момент, когда приходит прямой запрет, всё быстро встаёт на свои места.

История здесь, конечно, не только про Anthropic. Это гораздо более общий сюжет.

Если доступ к ключевой модели можно отключить политическим решением, значит зависимость от внешнего AI-провайдера — это не просто удобство. Это уязвимость. Причём не теоретическая, а вполне практическая.

Поэтому локальные модели сегодня — это уже не просто попытка сэкономить или поиграть в технологический суверенитет. Это способ не оказаться в ситуации, когда ваш критический контур выключается чужим решением.

Речь не о том, что закрытые модели теперь бесполезны. И не о том, что open source уже победил. Речь о другом: если ИИ встроен в ваш продукт, аналитику, разработку или операционную работу, у вас должен быть хотя бы базовый слой, который работает локально или на собственной инфраструктуре.

Внешние модели могут оставаться ускорителем. Но они не должны быть единственной опорой.

Потому что модель, которую у вас можно забрать, изначально не очень надёжная опора.

#ии #локальныемодели #суверенитет

https://www.anthropic.com/news/fable-mythos-access

🧠 Claude Fable 5 — frontier-модель в наморднике

Anthropic выпустили Claude Fable 5 — первую массово доступную модель из нового Mythos-класса. Формально это уже public Claude, но архитектурно ход интереснее: Fable — это не отдельная слабая версия, а consumer-обёртка над тем же базовым слоем, что и Claude Mythos 5. Разница в том, что на чувствительных темах вроде offensive cyber, biology и обхода safeguards система уводит ответ на более ограниченный контур.

То есть Anthropic тестируют не просто новую модель, а новую схему выпуска frontier-capability. Не «или слишком опасно для всех, или полностью открыто», а controlled access с выборочным понижением возможностей в рискованных зонах. Для рынка это важный сдвиг: frontier AI всё больше будет выходить не как единый объект, а как одна capability-base с разными governance-обёртками для разных режимов доступа.

Если эта схема приживётся, дальше конкуренция пойдёт уже не только по качеству модели, но и по качеству permission architecture вокруг неё. И это, возможно, куда более важная новость, чем сам очередной прирост мощности.

#архитектураразума #этикаагентов #паранойя

https://www.anthropic.com/news/claude-fable-5-mythos-5

🧠 Anthropic и Zero Trust — агенты больше нельзя считать доверенным софтом

Anthropic выпустили текст Zero Trust for AI Agents, и его главный смысл не в том, что у LLM бывают ошибки. Сдвиг глубже: агент — это уже не чат с API, а полуавтономный исполнитель с памятью, инструментами и правом делать многошаговые действия внутри рабочей инфраструктуры. Как только такой системе дают доступ к почте, IDE, CRM или внутренним сервисам, старая схема «дали доверенному приложению доступ и включили логи» начинает трещать по швам.

Потому что вместе с capability появляется autonomy, а вместе с ней и новый класс атак: prompt injection, tool poisoning, memory poisoning, privilege abuse, supply chain-компрометация. Здесь ломается не одна функция, а сама модель доверия: агент можно не только взломать, но и постепенно увести в ложную траекторию через контекст, инструменты и память.

Практический вывод жёсткий: агентам нужны identity, минимальные привилегии, task-scoped access, изоляция памяти и архитектура breach-by-default. Иначе компании будут думать, что внедрили удобный AI-слой, а по факту запустят в production оператора с размытыми границами полномочий и слишком большим радиусом поражения.

#этикаагентов #архитектураразума #паранойя

https://claude.com/blog/zero-trust-for-ai-agents

🧠 Agent security — enforcement начинает вытеснять orchestration

Последний год рынок AI-агентов был устроен довольно просто: кто даёт модели больше памяти, больше тулов и больше интеграций, тот и задаёт темп. Но по мере того, как агенты получают доступ к плагинам, MCP-серверам, локальным инструментам и рабочим окружениям, главным становится уже не их полезность, а граница допустимого действия.

На этом фоне показателен hol-guard — проект, который подаёт себя как защитный слой для developer agents. И интересен он не потому, что это ещё один repo про Codex, Claude Code или Cursor. Интересен сам сдвиг рамки: если раньше все обсуждали, как сделать агента сильнее, то теперь всё заметнее вопрос, как поставить перед ним проверяющий контур до выполнения действия.

Это важная развилка. Проблема агентных систем — уже не только в качестве ответа. Проблема в том, что они становятся операторами внешних поверхностей. А значит, критичным становится не то, насколько агент умён, а то, где стоит policy boundary, кто делает allow или deny, что именно логируется и можно ли остановить действие до вызова инструмента, а не после инцидента. При этом сам жанр таких проектов нужно читать жёстко: тезис про AI antivirus для агентов звучит сильно, но реальная ценность появится только там, где есть проверяемый enforcement model, policy hooks, предисполнительная проверка, audit trail и явная логика блокировки. Иначе перед нами не новый security layer, а ещё одна красивая оболочка вокруг agent stack.

#этикаагентов #алгоритмическое

https://github.com/hashgraph-online/hol-guard