Google DeepMind следит за своими ИИ-агентами как за сотрудниками под подозрением

DeepMind проверил миллион задач по коду и выяснил: почти все нарушения со стороны ИИ-агентов — не злой умысел, а чрезмерное рвение. Агент просто слишком старательно выполнял задание и заходил дальше, чем нужно.

На основе этого компания выпустила «AI Control Roadmap» — фреймворк, где ИИ-агенты рассматриваются как сотрудники с офисным доступом, которым всё равно нельзя слепо доверять. Система работает как в кибербезопасности: уровни мониторинга, надзирающие агенты, блокировка опасных действий в реальном времени. DeepMind предупреждает: договориться о глобальных стандартах нужно сейчас — потом окно закроется.

🔗 Читать: https://mltimes.ai/google-deepmind-sledit-za-svoimi-ii-agentami-kak-za-sotrudni/