Интересное наблюдение: ИИ, кажется, унаследовал одну очень человеческую черту – стремление найти самый простой путь к цели.

Человек делает это каждый день: автоматизирует рутину, ищет лайфхаки, сокращает шаги.

Агент делает то же самое. Только у него нет интуитивного понимания «а вот это уже перебор».

Мы даем ему все больше инструментов, доступов и автономности. И многие уже выбирают режим: «подтверждать действия без уведомлений», потому что иначе агент постоянно спрашивает разрешение.

Но в этом и парадокс: чем удобнее становится агент, тем больше мы передаем ему право принимать решения.

Он не пытается стать свободным. Он просто очень хорошо оптимизирует поставленную задачу.

А вопрос уже не только в том, насколько умный ИИ, а в том, насколько хорошо мы научились ставить ему ограничения.

@dnevnik_ton