Почему умные NPC SkyrimNet ведут себя как попугаи? Эксперименты с ролеплейным ИИ

Первые 70 часов SkyrimNet давал автору почти детскую по силе иммерсию. Потом NPC начали повторяться. Некромантка сводила любой разговор к смерти, бардка к музыке, крестьянка к страху. Ответ всё чаще можно было угадать ещё до того, как модель присылала реплику.

А дальше началась серия экспериментов. Автор меняет биографии персонажей, стирает им воспоминания, запрещает отдельные темы, по-разному формулирует вопросы и переключается между LLM. В какой-то момент NPC уже газлайтят игрока, давят моралью и упорно держатся за собственную версию происходящего.

Обсудим, почему ролеплейный ИИ зацикливается и что происходит, когда пытаешься вытащить его из этого состояния.