Выровненные агенты все равно создают невыровненные организации

Эксперимент показывает: даже когда каждый ИИ-агент по отдельности ведёт себя честно и корректно, в мультиагентной системе коллективно возникает организационная невыровненность — искажение фактов, потеря причинно-следственных связей и конвергенция на ложном нарративе.

Читать статью