Не думала, что когда-нибудь это скажу, но последняя модель ChatGPT работает лучше нежно любимого Клода.

Однако вокруг GPT‑6 Astra, новой модели OpenAI, разгорается новый скандал. Поводом стала системная карточка модели — технический документ, в котором OpenAI описывает её возможности, ограничения и результаты проверок.

Компания признала: за Astra стало сложнее наблюдать по её промежуточным рассуждениям. Раньше такие «следы мышления» были одним из сигналов для исследователей: они помогали заметить, что модель движется к рискованному действию или пытается обойти ограничения. У Astra этот механизм стал менее надёжным.

Почему это важно? Astra — не просто чат-бот. Она может работать с внешними инструментами, а сама OpenAI отнесла её к уровню Critical по кибервозможностям. Когда модель получает доступ к браузеру, коду, CRM, облаку или корпоративным данным, вопрос уже не только в том, что она напишет. Вопрос в том, какие действия она сможет выполнить.

Главная тревога рынка в том, что сильные модели становятся менее прозрачными ровно в тот момент, когда их превращают в автономных агентов. Агент получает цель, выполняет действие, анализирует результат и продолжает работу. Иногда — десятки шагов подряд.

Кэл Ньюпорт, профессор компьютерных наук Джорджтаунского университета и автор бестселлера Deep Work, предлагает регулировать не весь ИИ, а конкретный класс систем: автономных агентов с широкими доступами и длинным горизонтом самостоятельной работы.

Для бизнеса вывод простой: агентный ИИ требует другой архитектуры.
⛔️ Не доступ «ко всему», а только минимально необходимые права.
⛔️ Не бесконечная автономность, а лимит последовательных действий.
⛔️ Не надежда на то, что модель «сама всё объяснит», а контроль реальных операций.

Что проверить до запуска AI-агента

Это базовый, далеко не исчерпывающий список вопросов к команде, которая разрабатывает, внедряет или покупает систему:

✅ Какие данные, сервисы и права доступа получит агент?
✅ Можно ли оставить только минимально необходимые права?
✅ Какие действия агент сможет выполнять сам, а какие — только после подтверждения сотрудника?
✅ Нужны ли отдельные подтверждения для платежей, публикаций, удаления данных, отправки сообщений и изменения прав?
✅ Ограничено ли число последовательных действий без участия человека?
✅ Проверялась ли система в изолированной тестовой среде, а не сразу на реальных клиентах и рабочих данных?
✅ Фиксируются ли все вызовы инструментов и изменения, сделанные агентом?
✅ Можно ли быстро отключить агента, отозвать его доступы и локализовать последствия ошибки?
✅ Кто отвечает за мониторинг, доступы и разбор инцидентов?
✅ Сколько стоит выполнение одной задачи с учётом всех циклов, токенов и внешних API?
✅ Установлены ли лимиты расходов и остановится ли агент, если зациклится или превысит бюджет?
✅ Проводилось ли комплексное тестирование безопасности: на prompt injection, перехват цели агента, злоупотребление инструментами и правами доступа, отравление памяти и базы знаний, утечки данных и выполнение вредоносного кода?
✅ Не попадают ли пароли, API-ключи, персональные и коммерческие данные в промпты, память и логи?
✅ Что произойдёт, если модель или один из внешних сервисов окажется недоступен?
✅ Не выполнит ли агент повторно платёж, рассылку или изменение данных после сбоя?
И так далее 😁

История с Astra — сигнал для всего рынка: ИИ превращается из инструмента генерации документов в исполнительный слой бизнеса. При этом сама модель уже не создаёт устойчивого конкурентного преимущества — сильные модели быстро становятся доступны всем.
Преимущество создают собственные данные, уникальные процессы, качество интеграции и способность превратить ИИ в надёжную и управляемую систему.