👀Hugging Face говорят, что рост автономности ИИ-агентов не просто усложняет контроль человеком, а постепенно делает его неэффективным

Человек формально остаётся в процессе, ему показывают план и просят нажать апрув.

Но по факту все это чаще превращается в ритуал: человек быстро проскроллил, кликнул, пошёл дальше.

А агент уже сам решил, какие инструменты вызвать, что поменять и в каком порядке.

Человек в этот момент уже не оператор, а скорее последнее звено.

Самое грустное , о чём пишут авторы: чем чаще так происходит, тем хуже человек становится именно в роли надзирателя.

Усталость от бесконечных подтверждений, привычка доверять системе, потеря картины происходящего и атрофия собственных навыков - всё это накапливается.

Потом эти же поверхностные ответы и действия могут использоваться как сигнал, что система работает нормально.