OpenAI не выпустит GPT‑6.1 Astra, а Nvidia представили надсмотрщика над моделями

Сэм Альтман подтвердил CNBC: GPT‑6.1 Astra не выйдет, потому что модель не прошла внутренний порог безопасности. Вместо неё OpenAI обещает новые модели.

В тот же день Nvidia представила Open Agent Safety Platform. Она строит для агентов внешний контур: OpenShell ограничивает доступ к файлам, сетям и инструментам, а отдельный наблюдатель следит за поведением и может остановить агента за миллисекунды.

Это хорошая защита от побега из среды. Но она не отвечает на другой вопрос… можно ли доверять модели, которая действует внутри разрешённых границ, скрывает намерения, вводит пользователя в заблуждение.

А главный вопрос, как мне кажется: куда уходят данные у такого «прокси» над всеми вашими запросами?

🐊 Матвей про ИИ в MAX