Зеркало Злой королевы.
У меня последнее время много ассоциаций LLM с зеркалами.
И особенно часто я вспоминаю "Зеркало злой королевы" — девайс, который говорит нам, что мы на свете всех [нужное подставить].
Этот образ я считаю весьма точным описанием устройства LLM, как продукта. LLM держит перед нами зеркало культуры, так чтобы в нем отражалось наше представление о себе, которое нас устроит. Именно благодаря этому общение с ним так привлекательно и иммерсивно, и в результате у чаттов с роботом такая высокая скорость проникновения в жизнь людей. Разумеется, но только благодаря этому, но сейчас мне важно, что LLM как продукту выгодно быть “зеркалом злой королевы” и по этому оно им и останется.
Можно сколько угодно говорить LLM "будь объективна", "не подлизывайся", "критикуй меня во все щели" — и она выполнит все просьбы кожаного господина. И тон оф войс сменится. И критика появится. И ссылок на источники натащат. И даже цитировать будут верно, если постараться.
Но, в конечном итоге, это просто способ погладить пользователя так, как ему нравится. Нравится ласково? Пожалуйста. Нравится bdsm или имитация радикальной искренности? Тоже пожалуйста. Это, конечно, никакой искренностью или намеком на объективность не становится. Это становится нашим персональным приватным танцем иллюзии реальности, в котором LLM занимается косплеем этической позиции.

Все это я говорю к тому, что (пройдя через ад сдачи проекта и уперевшись в проблемы собственного мышления ака “тупка”), я натолкнулся в своей психике на артефакты использования LLM — и согласен с гипотезой @buhrun, что если применять LLM буст к мышлению, это искажает не только в моменте мышление , но и привычки мышления. И что-то я ужаснулся получающемуся (из меня) кадавру.

Это не значит, что я перестану пользоваться LLM (это значило бы потерять актуальность и вылететь из всех орбит). Это значит, что надо проектировать гигиену взаимодействия с волшебным зеркалом, иначе я превращаюсь в Кая, и складываю из осколков культуры слово "Вечность", наблюдая в нем ту версию себя, которую заказывал. Только это я, а косплей меня в исполнении LLM.

Это подводит нас к хорошему вопросу.
Какая нам нужна гигиена, чтобы сохранять (и развивать) свое мышление с помощью LLM? И возможна ли она или использование LLM для мышления неминуемо приводит к тому, что мозг разучается думать без допинга?

p.s.
Не надо приводить примеров из программирования и подобных — где LLM как инструмент замечательно работает, сокращает косты, ускоряет петлю обратной связи и т.п. Там LLM это просто инструмент, а не расширение мышления, и, я думаю такими эффектами не обладает. Хотя я не программист, и у меня просто нет этой части мышления, поэтому я не рискую ее потерять, доверив мыслительную работу LLM.