Галлюцинации нейросетей — не баг, а фича

OpenAI выпустила исследование о том, почему LLM продолжают выдавать уверенные, но ложные ответы. Причина — в системе оценок: «я не знаю» засчитывается как ошибка, поэтому моделям выгоднее угадывать.

В работе предлагают изменить метрики так, чтобы частичный зачёт получали честные ответы с признанием неопределённости.

✅Наш Компьютер