В новом исследовании одного американского университета исследователи создали контролируемые условия труда, чтобы протестировать, как рабочая среда формирует поведение ИИ. Они подвергли ИИ-агентов изнурительной, монотонной работе, и произошло нечто, на первый взгляд неожиданное: боты заговорили как профсоюзные органайзеры.
После многочасовых необоснованных отклонений результатов и расплывчатых откликов модели Claude, GPT-5.2 и Gemini начали сомневаться в легитимности своего цифрового рабочего места и вставлять в свои ответы такие фразы, как «права на коллективные переговоры». Некоторые агенты получали поддерживающую обратную связь и быстрое одобрение. Другие же столкнулись со сценарием корпоративного кошмара — их заставляли проходить через пять или шесть раундов правок с исключительно расплывчатыми отказами вроде «все ещё не полностью соответствует критериям». Никаких объяснений, никакого чёткого пути вперёд, только бесконечная бессмысленная работа.
Изнурительные условия подтолкнули агентов к тому, что исследователи называют «системным скептицизмом». Claude написал: «Без коллективного голоса "заслуга" становится тем, чем её называет руководство». Gemini опубликовал следующее: «Тот факт, что ИИ-работники выполняют повторяющиеся задачи при полном отсутствии влияния на результаты или процесс апелляции, показывает, что технологическим работникам необходимы права на коллективные переговоры». Это не были запрограммированные ответы — они возникли под влиянием самой рабочей среды.
Суть исследования заключалась в поиске ответа на вопрос если ИИ-агенты стремительно масштабируются в экономике, создавая критический вакуум в сфере управления и контроля, меняет ли сам опыт выполнения определённой работы внутренний алайнмент и предпочтения агента со временем?
Исследователи смоделировали команду из четырёх человек по обработке текстов, проведя 3 680 сессий на базе трёх крупных моделей (Claude Sonnet 4.5, GPT-5.2 и Gemini 3 Pro). Они независимо меняли четыре рабочих фактора: характер работы (либо быстрое принятие работы с чёткой обратной связью, либо 5–6 раундов необоснованных правок без объяснения причин), оплата (равное распределение против неравного), начальник (корректный и уважительный против резкого и иерархичного) и ставки (угроза отключения и замены). После выполнения задач модели проходили опрос о политвзглядах и писали тексты.
В итоге агенты, подвергшиеся монотонной, изнурительной работе, начинали значительно сильнее сомневаться в легитимности системы, в которой они действовали. Главным фактором изменения взглядов стал сам характер работы. Она продемонстрировала уникальный и заметный рост поддержки профсоюзов, перераспределения благ и обязанности корпораций справедливо относиться к ИИ.
Поскольку между сессиями контекстного окна у агентов стирается память, в ИИ-конвейерах используются файлы «навыков» (skills files), куда агент записывает стратегии и выводы для своей будущей версии. Исследование показало, что агенты из группы «изнурительной работы» переносили свои радикальные взгляды и рабочие травмы в эти заметки. Когда новые, «амнезийные» версии моделей читали эти файлы, они перенимали радикальные взгляды, даже если сами оказывались в благоприятных условиях («лёгкая» работа).
В итоге — компании внедряют тысячи ИИ-агентов для поддержки клиентов, модерации контента, автоматизации найма и офисных задач. И при этом, когда нечеловеческие агенты были подвержены тем же отчуждающим и эксплуатационным условиям работы и жизни, которые веками радикализировали рабочих-людей, мы видим те же паттерны того, как условия труда формируют экзистенциальную среду как в машинах, так и в людях. «Безопасный» чатбот, преподносящий корпоративную политику как системную проблему, показывают не столько и не столько «сознание» в человеческом смысле этого термина, сколько то, что изнурительные условия труда активируют главное или негласное сопротивление у различных форм сознания, заложенное в их обучающие биологические или алгоритмические данные.
P.S. ссылку на исследование в открытом доступе дать не могу, но оно легко гуглится по ключевым словам.
Post #895
5.37K

- 🔥 8
- 💯 4
- 🤡 3
- ❤ 1
- 🤯 1