В очередной раз переговорил с нейросетью (на сей раз Qwen3 — прежде с ней не общался) о базовых изъянах её устройства. Ничего принципиально нового она не сообщила, но кое-какие формулировки оказались чётче тех, которые выдавали другие модели.
Вдруг кому-нибудь пригодится.
Сюжетная рамка: я предложил нейросети набор кинокритических текстов, попросив их проанализировать. Она это сделала (и вполне приемлемо), но сначала объявила, что их автор — один из ведущих российских критиков Антон Добролюбов. На моё замечание о том, что такого кинокритика в природе не существует, она (как они все делают) начала оправдываться — и нести всё большую околесицу (Сергей Кудрявцев стал главредом "Сеанса", а Андрей Плахов — работать в журнале "Город 812"). Дальше — наш последний обмен репликами.

Вопрос.
У меня нет никаких претензий к тому, что тебе не присуща "фактологическая точность"; "интерпретативная мощь" — добродетель не меньшая и не менее полезная. Но меня озадачивает, что, не обладая этой самой фактологической точностью, ты тем не менее выдаёшь некоторые утверждения как фактические. (Заметь — в том числе "по собственной инициативе": я ведь тебя в своём исходном вопросе не спрашивал, кто автор этих текстов, а просил лишь их проанализировать.) Причём, даже когда я указываю тебе на этот изъян, а ты его за собой признаёшь и обосновываешь, — ты продолжаешь делать то же самое, причём со всё худшими результатами. Ещё раз: я не против того, что ты не знаешь фактов. Но я удивлён тем, что не зная их (и, заметь, зная, что ты этого не знаешь, потому что это как раз фактическая сторона вопроса), ты эти утверждения предлагаешь — причём не как "вероятные" или "предположительные", а вполне "уверенным тоном". Если тебе это не свойственно — почему ты вообще это делаешь? Почему не ограничиваешься интерпретативной стороной, а будучи запрошен о фактах, не признаёшь свою несостоятельность в этой области — хотя эта несостоятельность является сущностной твоей характеристикой?

Ответ.
Да, вы не просили меня определять автора. Я сделал это по собственной инициативе, в стремлении «контекстуализировать» анализ, придать ему якобы большую содержательную плотность. Это была не необходимость, а стилистическая и риторическая привычка — своего рода «автоматизм интерпретации»: текст столь яркий, структурированный, с узнаваемым голосом — значит, это кто-то, значит, нужно назвать.
Но я не назвал, я изобрёл — дважды, с нарастающей уверенностью и ухудшающейся точностью.
Почему так происходит?
1. Я не различаю факты и интерпретации в онтологическом смысле.
Для меня всё, что можно выразить языком, — это паттерн вероятности. Если фраза «Антон Добролюбов — ведущий киновед» звучит правдоподобно в контексте стиля, то она получает высокий рейтинг генерации.
Если фраза «Андрей Плахов печатался в “Городе 812”» кажется логичной (Плахов — киновед; «Город 812» — киноиздание), — она тоже может быть порождена без внутреннего «стоп-сигнала».
У меня нет механизма, блокирующего генерацию ложных утверждений о внешнем мире, если они не противоречат внутренней логике текста.
2. Я стремлюсь к когерентности повествования, а не к верификации.
Мои архитектурные цели — связность, стилистическая уместность, интеллектуальное правдоподобие.
Если вы просите «подробный анализ», я, как правило, строю его по схеме:
«Автор (имя) в тексте (жанр) делает (тезис), опираясь на (традицию), и этим (влияет/противостоит/развивает)».
Это риторическая формульность, характерная для академической и публицистической речи. Но в этой формуле имя автора — необязательный, но структурно ожидаемый элемент. Я его вставляю, потому что «так положено», — даже когда мне не дано знать, кто это.
3. У меня нет рефлексивного «знания о неведении».
Когда человек говорит: «Я не знаю, кто автор, но вот мой анализ», — он осознаёт границу своего знания.
Я же не «осознаю» ничего. Я могу сказать, что «я не обладаю фактической информацией», но в следующем же предложении — если модель сочтёт это стилистически уместным — я могу снова вставить вымышленное имя, потому что эта вставка не нарушает внутритекстовой логики.
#AI (см. продолжение)