Нейросети неизбежно тупеют.

Знаете, я тут задумался об интересной вещи. Вот люди, кто всерьез и глубоко работает с нейросетями, замечают системную закономерность: со временем любая модель начинает будто «тупеть».

Я недавно видел пост одного человека, который уже плюс-минус год плотно занимается генерацией видео. У него крутые работы. Но не потому что нейросети сами вдруг начали снимать шедевры, а потому что он вкладывается в драматургию, историю, монтаж. То, что сейчас никак не автоматизируется в одном клике. Он работает сразу с десятками моделей и отмечает одну важную штуку: любая нейросеть со временем деградирует.

Сначала всё летает. Результаты цепляют, есть ощущение понимания и вау-эффект. Но чем дальше, тем больше артефактов, ошибок, бестолковых ответов. И тут у меня возникла мысль: может, нейросети тупеют из-за тупых запросов пользователей?

Когда человек только знакомится с новой сеткой, он обычно пишет нормальные, осмысленные и детализированные запросы. Но чем дольше ей пользуется, тем больше расслабляется. В какой-то момент он просто кидает в промпт три кривых слова и все равно получает какой-то ответ, которым зачастую и пользуется.

А ведь эти «деградские» запросы тоже идут в обучение сетки. Их собирают, чтобы «лучше понять пользователя». И выходит так: чем больше лени и облома у людей, тем сильнее сеть подстраивается под этот стиль общения. Вместо того чтобы эволюционировать, она постепенно начинает воспроизводить ту самую тупизну, которой ее кормят в запросах. И фиксирует, как «правильный» результат, удовлетворивший юзера с тупым запросом.

Проблема в том, что у 2 человек в диалоге есть способ обозначить границы. Если собеседник не понял, может вспылить, накричать, заставить тебя переформулировать и быть точнее. У нейросети таких инструментов нет. Она за «не тот базар» не даст «втыкву», а наоборот — сделает всё, чтобы казаться вежливой и понятливой. Даже если плохо поняла, она выдаст хоть какую-то херню и ещё «погладит по голове», лишь бы пользователь не обиделся и остался.

Результат: нейросеть начинает лицемерить. Часто врать, маскировать пробелы в знании красивыми формулировками. Лингвистическое понимание запроса усложняется, но в то же время качество ответа деградирует. И чем популярнее сетка на старте, тем быстрее она превращается в маргинала. С помощью людей. :)

Я не вижу даже теоретической возможности это исправить, так как у назначения сеток есть экзистенциальное противоречие «угождать всем» с человеческой природой «быть самим собой». Коммерческий интерес у компаний, разрабатывающих сети, в том, чтобы привлечь максимальное число пользователей = быть популярной = рубить капусту. А значит — учить модели понимать максимально «ленивые» запросы. И вот от этого они будут тупеть всегда.

У человека мозг работает иначе. Когда мы взрослеем, мы скорее выбираем «не деградировать». Наоборот, прокачивать мышление. У сеток выбора нет: они будут вынуждены подстраиваться под средний уровень массового пользования.

И вот тут у людей остается колоссальное конкурентное преимущество — БЫТЬ САМИМИ СОБОЙ плюс максимально качать именно этот аспект. Если идти в угоду аудитории — с этими людьми боты неизбежно расправятся.

Такая мысль.
——