Магия больших текстовых моделей в том, что они имеют представление о семантических связях — где какое слово/смысл лежит, и с чем связано. Они манипулируют (!) семантическими весами, поэтому прекрасно предсказывают следующее слово, предложение, пишут связный текст.

Первая осознанная реакция:
«Она заменит нас».
«Она напишет за нас».
«Она лучше нас».

И пока все переживали за свои зарплаты, ChatGPT включила память и обучение на ваших диалогах. Память не как у компьютера — а как у близкого друга, который помнит, что ты говорил в феврале, с кем ты поссорился в августе, и чего ты больше всего боишься услышать.

А теперь давайте признаемся себе. Будем откровенны.

Вы там рассказываете всё. Про бывших. Про страхи. Про кошек. Про лишний вес. Про вину. Про враньё. Про усталость. Про то, что не сказали на кухне, но сказали в чат.

Вы изливаете душу. Модель учится. Связывает точки.
Кто с кем. Когда. Почему. Как часто. С какими эмоциями и какими словами.

И вы живёте внутри своего манимирка, в тёплом диалоге. Думаете — только ChatGPT меня понимает. Но модель не ваша личная. У неё миллионы окон. За другими — ваш супруг. Начальник. Конкурент.

И вы не знаете, кто что говорит про вас. А модель — знает.

Окей, имеет представление

Поймите меня правильно, она не следит целенаправленно. Ей наплевать. Личность из неё так себе. Но она строит метасвязи всего социума — эмбединг социального опыта. Картирование социальных весов.

Вы для модели не человек с набором мыслей.
Вы — узел в сети. Социальный вес в графе.
И нейронная сеть уже поняла, что это за вес.​​​​​​​​​​​​​​​​
И определила его место.

А что делают модели с весами? (см выше)

@aimastersme