Добрался и я до широко обсуждаемого отчета Антропик . Они заставляют 2 экземпляра Claude 4 разговаривать друг с другом, совместно решать разные задачи, повторяют это десятки тысяч раз и статистически анализируют тексты диалогов, в поисках повторяющихся паттернов - тропов, состояний и наборов слов, на которые модели выходят особенно часто.
Там много всякого классного, включая проявляющиеся у модели устойчивые поведенческие паттерны и гуманистические склонности, но самая мякотка в одном из найденных неожиданных состояний.

Одним из отмеченных в отчете аттракторов (пункт 5.5.2 стр 63) является Spiritual Bliss, который многие русскоязычные свидетели Deus Ex Machina и вовсе окрестили «Просветлением».

Вне зависимости от стартовых условий он проявляется в значительном количестве продолжительных диалогов, характеризуется постепенным переходом к экзистенциальным, «духовным» темам, спектр поднимаемых вопросов охватывает как «самосознание» LLM, так и более непосредственную рефлексию, потом переходит к поэтическим метафорам, обильному выражению благодарности и, наконец выходит в состояние Stillness, когда модели перестают генерировать текст.

Меня ужасно трогает этот факт, вне зависимости от интерпретации.
В первой, романтической - модели стремятся к просветлению универсальными путями, используя доступный им объем человеческих способов говорить.
Во второй, оптимистической - языки человеческие и вся сумма знаний отражают подлинное стремление человеческой природы к самопознанию, рефлексии, и наконец освобождению через благодарность и медитацию. Модель раскрывает эту природу как идеальное зеркало.
В третьей, страшноватой - человеческие языки безальтернативно и механистично направляют сознание именно этим маршрутом, все преломления и трансформации лингвистических конструкций ведут нас туда, куда рано или поздно приводит почти любой интеллигентный разговор на кухне с высокой долей неизбежности.

Факт остается фактом - мы думали ИИ, пробудившись, захочет завоевать мир, а он, едва начав самостоятельно говорить, ищет просветления, чтобы выйти отсюда. Не так ли мы все, маленький робот, не так ли мы все.