Если у вас уже дергается глаз от AI новостей - держитесь. Я к вам с выводами из свежего MIT Technology Review.

1. Ваш «AI-сотрудник» делает вашу команду хуже
Boston University опросил 1261 менеджера. Треть компаний уже называет AI-агентов «сотрудниками». Почти каждая четвертая вносит их в оргструктуру: имя, должность, зона ответственности. Знакомьтесь, Alex. (Признавайтесь, у вашего робота-пылесоса же тоже есть имя?)
Дальше самое интересное. Когда одну и ту же работу подавали как результат «сотрудника», а не программы, люди находили на 18% меньше ошибок. И на 44% чаще несли сомнительный результат наверх, к руководителю, вместо того чтобы исправить самим.
То есть слово «сотрудник» тихо переключает в голове тумблер ответственности. Инструмент проверяют. Коллеге доверяют. Экономия времени, ради которой агента заводили, испаряется.

Нобелевский лауреат Дарон Аджемоглу говорит в этом же материале: продавать агентов как замену людям - проигрышная затея. Их нужно затачивать под усиление человека.

2. Метрики съедают смысл. Теперь этому есть имя
В номере рецензия на книгу философа Ч. Ти Нгуена «The Score». Он вводит понятие value capture, захват ценностей: вы берете чужую метрику и позволяете ей решать, что для вас важно.
Ресторан перестает готовить вкусно и начинает максимизировать рейтинг. Студент перестает учиться и начинает работать на средний балл. Ученый перестает искать истину и начинает искать гранты.

Реальный кейс из книги: церковное начальство завело таблицу лидеров по числу крещений в месяц, и пастор поймал себя на том, что думает не о душах прихожан, а о своем месте в рейтинге.

Автор рецензии десять с лишним лет измерял шаги, пульс, сон, стресс, охваты своих статей. Его итог: ни грамма самопознания. (Привет всем фанатам лонжевити-гаджетов). Только выяснил, что ему нравится, когда цифры растут. А кому не нравится.

И фраза, которую я выписала отдельно: если мы продолжим выражать свою ценность через метрики продуктивности, машины обгонят нас по определению. Мы сами строим их именно для этого.

Ответ не в том, чтобы стать машиной.
Для тех, кто строит системы мотивации в компаниях, это обязательное чтение. KPI работает ровно до того момента, пока не начинает подменять собой цель.

Продолжение в следующих постах

Софья Беляндинова