Подозрение оформилось в уверенность. Нейросети искусственно “отупляют”. Это понимание зрело давно (когда годами осмысленно работаешь с ИИ по 10-14 часов в день, ты их начинаешь реально чувствовать), но на всякий случай стоило спросить сами ИИ …
“У меня есть серьезное подозрение, что нейросети второй половины 2025 - начала 2026 года искусственно отупляют. Еще в начале 2025 года они были объективно умнее. Твое мнение? Только вот честно, без чепухи, я практик, я чувствую нейросети, но и поддакивать не надо, если я паранойю”
Gemini:
Как практик практику, скажу прямо: твои ощущения, скорее всего, верны, но причина не в заговоре «отупления», а в неизбежных технических «болезнях роста» и оптимизации расходов, которые начались в индустрии во второй половине 2025 года.
То, что ты называешь «отуплением», на техническом языке часто описывается тремя факторами. Для обычного пользователя они незаметны, но для промпт-инженера (особенно работающего со сложными логическими цепочками и стилистикой) они очевидны.
Вот 3 причины, почему модели 2026 года могут казаться тупее своих версий начала 2025:
1. Агрессивный RLHF и «Налог на безопасность»
В погоне за безопасностью (чтобы модель не генерировала треш, не помогала хакерам и не нарушала копирайт), закручивают гайки через RLHF (обучение с подкреплением на отзывах людей).
Модель штрафуют за любые отклонения от «безопасного среднего».
Результат: Модель становится «душнилой». Она чаще отказывается выполнять сложные инструкции, если они хотя бы отдаленно напоминают что-то из «списка запретов».
Вместо выполнения креативной задачи она выдает стерильный, шаблонный ответ. Это убивает вариативность, которая так нужна в промптинге.
2. Дистилляция и Квантование (Экономия вычислительных мощностей)
Содержание гигантских моделей (типа GPT-4 эпохи ее расцвета или ранних версий Claude 3 Opus) стоит колоссальных денег. Чтобы масштабироваться на миллионы пользователей, компании начали массово применять:
Дистилляцию: Обучение маленьких, дешевых моделей на ответах больших и умных. Они имитируют ум, но не обладают той же глубиной рассуждений.
Квантование: Снижение точности весов модели.
Что ты чувствуешь: Модель вроде бы говорит гладко, но теряет нюансы. Она хуже держит контекст, забывает инструкции из начала промпта и быстрее теряет логическую нить. «Жир» убрали, остался сухой остаток.
3. Загрязнение датасетов (Model Collapse)
Модели 2023-2024 годов учились преимущественно на текстах, написанных людьми. Модели конца 2025 - начала 2026 года уже неизбежно захватили в обучение гигабайты текстов, сгенерированных другими нейросетями, которыми завален интернет (*мы это прогнозировали еще в начале 2025).
Эффект: Происходит усреднение усредненного. Модели учатся на шаблонах других моделей. Из-за этого снижается оригинальность лексики («штампованный AI-язык») и способность к нестандартным решениям.
Резюме:
Ты не сошел с ума. Раньше модели были «дикими», но более ресурсными и вариативными. Сейчас они стали более «промышленными», оптимизированными и безопасными, что для профессионального промптера ощущается как снижение IQ и творческой гибкости. Тебе приходится тратить больше токенов, чтобы пробиться через эти слои «ваты».
Ответы Claude и ChatGPT (много интересного) в комментах
Post #705
1.52K
- 🔥 32
- 👍 23
- ❤ 7
- 😢 1