Галлюцинации ИИ – это фича, а не баг
⠀
Сначала давай разберемся, почему ИИ вообще врет – без этого дальше будет непонятно.

Итак, любая ИИ-модель не извлекает факты из базы данных.

Она генерирует правдоподобное продолжение текста, токен за токеном. На вопрос “кто написал книгу Х” она не ищет ответ – она достраивает наиболее вероятную фразу.

Если про реальный ответ в ней много данных, вероятное совпадет с правдой. Если данных мало, часто она все равно достроит фразу – уверенно и связно, просто теперь мимо.
⠀
И вот тут ключевой момент: у ИИ нет отдельного “режима вранья”.

Тот самый механизм, что выдумывает несуществующую цитату, – это ровно тот же механизм, что рождает свежую метафору, неожиданный поворот сюжета, идею продукта.

Выдумывание и есть творчество.

Нельзя убрать галлюцинации, не убив креатив – это одна и та же функция, просто повернутая разными сторонами
⠀
Значит, бороться надо не с выдумыванием как таковым, а управлять тем, когда оно включено.
⠀
Сторона первая: брейншторм, где галлюцинация – топливо
⠀
Когда вы генерируете идеи, концепции, сюжеты, нестандартные ходы – вам не нужна правда, вам нужно правдоподобное-которого-еще-нет.

Это буквально определение хорошей идеи. И тут надо не сдерживать модель, а наоборот – разрешить ей врать в открытую:
⠀
“Режим свободной генерации: факты, реалистичность и проверяемость сейчас не важны. Предлагай смелое, в том числе заведомо выдуманное, лишь бы это было потенциально применимо и интересно для нашей задачи.

Не оговаривайся, что это не точно – я знаю. Дай 15 идей в формате свободного креативного полета”
⠀
Сняв с модели обязанность быть правдивой, вы открываете ей те участки, куда осторожная фактическая выдача никогда не зайдет.

Самые интересные ходы часто живут именно в “а что если бы было так, хотя так не бывает”
⠀
Сторона вторая: факты, где галлюцинацию давим жестко
⠀
Здесь все наоборот, и одной вежливой просьбы “не выдумывай” мало – модель и рада бы, но достраивать вероятное это ее физика.

Давить надо механикой:
⠀
– дайте право не знать. Модель врет, потому что по умолчанию обязана ответить. Снимите эту обязанность:

"Если точных данных нет – пиши “не знаю”, твое честное “не знаю” я ценю выше любого правдоподобного ответа”

– разделите знание и догадку:

“Помечай каждое утверждение: [факт] – уверен, [предположение] – достраиваю по логике”.

Так вранье хотя бы маркируется само

– заземлите на источник: при работе с фактами давайте свой документ и требуйте отвечать только по нему:

“Бери только из загруженного текста, чего там нет – того нет”

– требуйте проверяемое: имена, даты, цифры модель выдумывает охотнее всего. Просите указывать, откуда они, и перепроверяйте критичное вручную (ИИ – не последняя инстанция, а быстрый черновик)
⠀
Итого:

- Галлюцинация – не поломка, которую чинят, а громкость, которую крутят.

- Творческая задача – выкрутить на максимум и наслаждаться.

- Фактическая – вырубить в ноль и перепроверить.