ИИ-дайджест: 31 августа — 6 сентября

Экспериментирую с новой рубрикой - комментирую новости в мире ИИ и рассказываю как это использовать для бизнеса.

Если коротко, главный сюжет этой недели такой:

ИИ-агентам дают всё больше полномочий — и одновременно всё сильнее ограничивают их свободу.

OpenAI, Google и Anthropic почти синхронно показали новые решения для сложных автономных задач. Но вместе с возможностями моделей растёт и внимание к тому, что именно им можно разрешать делать без человека.

Собрала 4 новости, на которые я бы обратила внимание.

1⃣ OpenAI выпустила GPT-6 Astra и впервые отнесла модель к критическому киберуровню

У Astra заметно выросли возможности работы с компьютером, браузером, кодом и длинными многошаговыми задачами.
Но примечательнее другое.
OpenAI отнесла модель к уровню Critical по кибервозможностям: во время тестирования Astra находила ранее неизвестные уязвимости и могла выстраивать цепочки их эксплуатации. Поэтому вместе с моделью появляются дополнительные ограничения, мониторинг и возможность остановки потенциально несанкционированных действий.

Для бизнеса это хороший маркер.

Когда мы говорим об ИИ-агентах, вопрос уже не только в том, насколько хорошо агент выполняет задачу.

Нужно заранее решить:
— куда он имеет доступ;
— что может делать самостоятельно;
— где требуется подтверждение человека;
— какие действия должны записываться в журнал;
— кто и в какой момент может его остановить.
Чем самостоятельнее становятся агенты, тем важнее становится архитектура контроля вокруг них.

2⃣ Google учит агентов не только находить уязвимости, но и исправлять их

2 сентября Google открыла ограниченную Fairwind Program для государственных структур и доверенных партнёров.

Gemini 3.8 Flash Cyber вместе с CodeMender сможет автономно искать уязвимости, проверять их и готовить исправления в защищённом облачном контуре. То есть ИИ постепенно переходит от:

«Я нашёл проблему»
к:
«Я нашёл проблему, подготовил исправление и проверил его».

Разница существенная.

Следующий вопрос для компаний — насколько далеко такого агента можно допускать в реальную инфраструктуру.
Пока логика вполне осторожная: не давать ему прямой доступ к production, а строить промежуточный контур проверки и развёртывания.

3⃣ Anthropic пытается решить неприятную корпоративную дилемму: как контролировать агентов, не отдавая их данные наружу

1 сентября Anthropic представила Enterprise Frontier Safeguards.
Идея в том, чтобы совместить две вещи, которые обычно конфликтуют:
приватность корпоративных данных + мониторинг потенциально опасных действий ИИ.

Данные для мониторинга остаются в облачной инфраструктуре самого заказчика, а компания получает сигналы об аномалиях и сама принимает решение, что с ними делать. Пилотирование запланировано на осень.

Для банков, фармы, телекома и других регулируемых отраслей это может быть довольно важным направлением.
Потому что один из постоянных вопросов при внедрении ИИ звучит примерно так:

«Чтобы контролировать модель, кому мы должны показать наши данные?»

Anthropic предлагает вариант ответа: возможно, никому.

4⃣ MWS Cloud добавила GLM-5.3 в российский облачный контур

4 сентября MWS Cloud сообщила о доступности GLM-5.3 в GPT Model Hub.
Модель ориентирована на код и сложные многошаговые агентские сценарии и доступна через OpenAI-совместимый API.
По заявлению сервиса, запросы и ответы не сохраняются и обрабатываются внутри защищённого контура MWS Cloud.
Для российского B2B здесь интересно не появление ещё одной модели само по себе.

Интереснее возможность тестировать более сложные агентские сценарии там, где есть требования к размещению данных и интеграции с корпоративной инфраструктурой.

Остаётся главный вопрос — как модель покажет себя не на бенчмарках, а на реальных задачах компаний.

За чем буду следить дальше

В первую очередь за тем, во что превратится контроль ИИ-агентов на практике.
Пока вокруг них постепенно складывается новая инфраструктура: права доступа, подтверждения, мониторинг, журналы действий, изолированные среды, человек в контуре.
И, похоже, именно этот слой скоро станет не менее важным при внедрении ИИ, чем выбор самой модели.
Второе: насколько хорошо локально доступные модели вроде GLM-5.3 справляются с настоящими корпоративными задачами, особенно с кодом и многошаговыми процессами.

Если такой формат окажется полезным, буду раз в неделю собирать сюда новости, которые важны не сами по себе, а с точки зрения того, что они меняют для бизнеса и работы с ИИ.

❤️ классно, ждем регулярные обзоры
🙈 надоели все эти новости про ИИ