Если сотрудник косячит в 1 задаче из 10, мы микроменеджим.
В 1 из 100 - мониторим и проверяем.
В 1 из 1000 - встраиваем guardrails в систему.

Но, если в 1 из 10000 - зачастую, безоговорочно доверяем и даём полную автономию. Именно тогда, эти косяки накапливаются и, вдруг, обрушивают всю систему.

С AI-агентами также. И это гораздо опаснее, чем вероятность условного SkyNet.