Google на пять месяцев подселили AI-агента в реальные рабочие команды и он оказался ужасным коллегой.

Агент работал более чем в 20 командах: сидел в рабочих чатах, имел доступ к документам и баг-трекеру, мог сам заводить баги, писать людям в личку и вмешиваться в рабочие процессы. За время эксперимента набралось больше 41 тысячи реплик.

Технически он часто помогал, но постоянно спотыкался о негласные правила офиса: путал старые документы с актуальными, создавал ненужные задачи, вмешивался в обычные споры и иногда раскрывал информацию раньше времени.

В итоге сотрудники начали уводить личные разговоры в отдельные чаты без агента.