Забавно наблюдать, как ИИ любит бюрократию больше, чем люди.

Сначала мы разделили труд и построили большие организации. Чтобы ими управлять, придумали иерархии, регламенты, инструкции, должности и права доступа.

Потом десятилетиями пытались от этого избавиться, стараясь создать самоуправление, автономные команды, управление по целям, бирюзовые компании. Хотели меньше правил, больше здравого смысла и самостоятельности.

А теперь появился ИИ (не шуточки, а новое электричество) и мы снова пишем доки, регламенты, права и т.п.

Чтобы агент нормально работал, ему нужен контекст, что можно, что нельзя, какие у него права, где границы, какие входы и выходы, когда действовать самому, а когда звать человека. Чем сложнее процесс, тем важнее всё это формализовать.

Человек то умеет достраивать смысл из контекста, а ИИ нет.

Как в том эксперименте Ника Бострома со скрепками. ИИ получает цель производить максимум скрепок и без правильно заданных ограничений начинает оптимизировать под неё всё доступное. Он не “злой”, а просто слишком буквально и эффективно исполняет цель.

Такой вот парадокс: мы годами учили организации меньше управлять людьми через инструкции, а теперь создаём цифровых сотрудников, которым эти инструкции снова нужны)

Спасибо, их хоть можно надиктовывать)