Полчаса воевал с чатом гпт, скормив ему пачку туторов и инструкций в поисках одной нужной мне настройки. Полчаса он пытался мне обьяснить в каком компоненте она находится и как называется. По факту, конечно, там ее не было. Я скинул ему скрины компонентов и попросил показать мне пальцем, если он такой умный. Так что вы думаете? Этот пи🐤р мне ее на скрине ПОДРИСОВАЛ (в оригинале - ниже size modifiers вообще ничего нет)

Источник: https://x.com/quaatura

Постоянно конечно какая-то дичь происходит, но с фальсификацией изображений сталкиваюсь впервые :)

Вот есть октябрьская статья про борьбу с галлюцинациями (как раз когда ИИ очень уверенно несёт чушь) https://www.voiceflow.com/blog/prevent-llm-hallucinations

Там описано 5 стратегий:

1️⃣ Retrieval-Augmented Generation (RAG) — подключать извлечение релевантных фактов из внешних баз перед генерацией ответа, чтобы заземлить выводы на проверяемых источниках и не «додумывать» при нехватке знаний.​

2️⃣ Chain-of-Thought Prompting — просить модель пошагово расписывать ход рассуждений перед финальным ответом, что снижает логические скачки и уменьшает ошибки в задачах с многошаговым выводом.​

3️⃣ Reinforcement Learning from Human Feedback (RLHF) — дообучать модель по оценкам людей, чтобы поощрять точные и полезные ответы и подавлять правдоподобные, но неверные.​

4️⃣ Active Detection with External Validation — автоматически проверять ответы на согласованность (например, SelfCheckGPT) и валидировать утверждения по доверенным базам, помечая фрагменты с низкой уверенностью или неподтверждённые.​

5️⃣ Custom Guardrail Systems — внедрять «ограничители»: автоматическую проверку фактов, контекстное заземление и требования к ссылкам/допуску только одобренной информации в чувствительных доменах.​

Кря