Модельный коллапс IT

В сфере генеративного ИИ активно обсуждается феномен "модельного коллапса" (AI models collapse when trained on recursively generated data). Суть его в том, что когда новые поколения языковых моделей обучаются преимущественно на данных, сгенерированных предшественниками, распределение данных деградирует. Модель начинает "забывать" тонкие нюансы, теряет разнообразие и замыкается в цикле самореференции, становясь все более посредственной.

Не происходит ли нечто подобное в самой IT-индустрии, где "обучающим набором" служат не тексты, а идеи, практики и решения?

Эрозия разнообразия идей

Проблема заключается в замыкании цикла идей внутри профессионального сообщества.

Индустрия разработки программного обеспечения демонстрирует признаки, подозрительно схожие с деградацией данных:

1) Синтетические "лучшие практики".
На индустриальных митапах и конференциях обсуждаются субъективные взгляды на решение проблем, которые, будучи оторванными от глубокого анализа, становятся "синтетическими данными" для всей индустрии. Эти практики, не подкрепленные строгим формализмом, многократно пересказываются и адаптируются, теряя связь с первоначальным контекстом и глубиной. Отсутствие формальных методов в широкой практике является одной из причин, по которой неформальные "best practices" остаются субъективными и не поддаются строгому анализу (Investigating the Homogenization of Web Design: A Mixed-Methods Approach).

2) Деградация разнообразия идей.
Когда инженеры "варятся в собственном соку", пересказывая друг другу одни и те же "паттерны", происходит потеря разнообразия. Утрачивается связь с первоисточниками — основополагающей информатикой, теорией систем, строгими инженерными дисциплинами. Этот процесс ведет к гомогенизации инструментария и подходов, что уже фиксируется в исследованиях (Formal methods: Practice and experience). Сообщество начинает обучать само себя на собственном, все более гомогенном и поверхностном "опыте".

3) Монополия на парадигмальные сдвиги.
В результате, парадигмальные сдвиги приходят почти исключительно из BigTech. Отчеты показывают, что значительная часть роста R&D (до 78%) приходится именно на крупные технологические компании (Tip of the Iceberg: Understanding the Full Depth of Big Tech’s Contribution to US Innovation and Competitiveness), что подтверждает их доминирование в поставке принципиально новых знаний. Остальная часть рынка лишь потребляет и адаптирует эти решения, не создавая новых.

Индустрия, по сути, превратилась в огромную языковую модель, которая генерирует код, обученный на собственных, синтетических "лучших практиках", а не на основополагающих принципах.

Конечно, аналогия не абсолютна. IT-индустрия обладает механизмом обратной связи в виде сбоев в продакшене и финансовых потерь. Однако этот механизм является реактивным, а не проактивным, и не способен остановить медленную, но неуклонную эрозию основополагающих знаний.

Кризис основополагающих знаний

Этот кризис усугубляется появлением "ИИ-слопа" (AI-slop) — низкокачественного, гомогенного кода, сгенерированного инструментами на базе LLM. ИИ-слоп, будучи продуктом "модельного коллапса" в чистом виде, становится новым, массовым источником "синтетических данных" для будущих поколений инженеров и моделей.

Индустрия рискует превратиться в гигантскую и неэффективную языковую модель, которая генерирует все более посредственный код, обученный на собственных, синтетических "лучших практиках" и усугубленный повсеместным ИИ-слопом.

Чтобы не просто копировать, а понимать и создавать парадигмальные сдвиги, индустрии необходим постоянный приток хорошо образованных специалистов, способных формализовывать, критически мыслить и исследовать.