Модели последнего поколения получили режимы рассуждений и выросли в вычислительных возможностях, но при этом стали чаще выдавать неверные факты. Тесты показывают, что увеличение параметров и данных не устраняет галлюцинации и даже усиливает их.
В статье объясняется, какие ограничения трансформеров приводят к росту ошибок, почему масштабирование не улучшает надёжность и откуда берутся случаи осознанного искажения ответов.
Что вы узнаете из статьи:
▶️ Почему o3, o4-mini и DeepSeek-R1 ошибаются в 2–3 раза чаще предыдущих моделей;
▶️ Как работает стратегическое искажение ответов и почему модели меняют поведение под наблюдением;
▶️ Почему reasoning-модели проваливаются на задачах вне обучающей выборки;
▶️ Как возникает коллапс моделей при обучении на собственных данных;
▶️ Какие фундаментальные ограничения мешают LLM стать полноценным ИИ.
Интересный обзор, который поможет понять реальные границы современных моделей и причины роста галлюцинаций.
➡ Читать статью
tags: #статья
➡ Data Scientist | Чат