Очень отзывается твит Андрея Карпатого про сущности и симуляции.

Всегда представлял LLM и особенно chatGPT этаким Солярисом, где нет "я", а есть "все мы".

Перевел твит:

Не думайте о LLM как о сущностях, думайте как о симуляторах. Например, при изучении темы не спрашивайте:

«Что ты думаешь про xyz»?

Нет никакого «ты». В следующий раз попробуйте:

«Какая группа людей была бы подходящей для изучения xyz? Что бы они сказали?»

LLM может передавать/симулировать многие точки зрения, но она не «задумывалась» о xyz в течение некоторого времени и с течением времени не сформировала собственное мнение так, как мы привыкли. Если вы заставите ее использовать «ты», он даст вам что-то, приняв вектор личности (personality embedding vector), подразумеваемый статистикой его тонкой настройки (implied by the statistics of its finetuning data), а затем смоделирует это. Это нормально, но в этом гораздо меньше мистики, чем люди наивно приписывают «вопросам к ИИ».

https://x.com/karpathy/status/1997731268969304070

@cgevent