Мы тут наткнулись на статью про ИИ-слоп. Хотим поделиться с вами мыслями.

Похоже, Open Source столкнулся с проблемой. Раньше, чтобы отправить PR, нужно было хотя бы разобраться в коде. А теперь будто достаточно прогнать issue через ИИ и нажать Submit. Короче, порог входа упал почти до нуля.

Снаружи это выглядит как рост активности. Больше людей, больше вкладов, больше движения. Но раньше этот рост работал иначе. То есть Open Source держался на том, что вклад стоил усилий, нужно было разобраться в коде, воспроизвести проблему, аккуратно внести изменения и быть готовым за них отвечать. Это создавало естественный фильтр качества и заодно ответственность.

С появлением ИИ этот фильтр почти исчез. Сгенерировать PR стало дёшево. А вот проверить его — нет. И вот вам цифры из статьи: по оценке одного из разработчиков, ревьюер тратит на разбор и исправление одного ИИ-PR в 12 раз больше времени, чем его автор — на генерацию.

Получается, мейнтейнеры получают поток вкладов, которые нужно разбирать, перепроверять и часто отклонять. И это бьёт особенно больно, ведь почти 60 % мейнтейнеров — неоплачиваемые волонтёры. Вот пруф.

По сути, это меняет саму механику Open Source. Модель «больше участников → больше пользы» перестаёт работать, когда количество растёт, а доля некачественных вкладов заглушает адекватные решения.

Проблема в том, что ИИ практически убрал необходимость разбираться, но не добавил ответственности за результат. А Open Source всегда держался именно на этом балансе.

Отсюда и ответные меры: более жёсткие правила, фильтры, ограничения на PR, попытки ввести репутацию и верификацию. Некоторые проекты идут дальше — например, Jazzband был вынужден полностью прекратить существование, потому что поток спама из ИИ-PR и issues сделал его неустойчивым. cURL закрыл bug-bounty-программу после того, как за восемь часов получил 16 submissions, ни один из которых не содержал реальной уязвимости.

Но давайте посмотрим с вами шире. Тут ломается не только поток PR, а вся воронка контроля качества. На каждом этапе этой воронки раньше происходил отсев сначала, ведь само участие просто стоило усилий, потом автоматические проверки, тесты и затем уже ревью человеком.

Схема была простой:
linter (automation) → unit-tests (automation) → review (human)
Сейчас этого уже недостаточно. Ручное ревью просто не масштабируется :)

Поэтому должен случиться ещё один этап проверки. В оптимизированном мире цепочка станет такой:
linter (automation) → unit-tests (automation) → robot_review (LLM) → review (human)

Иными словами, если мы не хотим погрязнуть в «спаме PR’ов от LLM», нам теперь необходимо «вышибать клин клином»: меч (PR LLM) vs щит (review LLM).

На техническом языке это может называться LLM-as-a-judge или LLM/agent review.

Пусть тогда ИИ фильтрует вклад ИИ.

А вообще, главный риск тут не в перегруженных ревью. Если вклад становится дешёвым, а проверка — дорогой, система постепенно перестаёт отличать осмысленную работу от шума и начинает деградировать.

Возможно, мы сейчас как раз в этой точке.

Ну давайте честно: ИИ сам по себе тут ни при чём. Молоток не виноват, когда им забивают саморезы. Проблема не в инструменте, а в том, что культура ответственности не успела за скоростью развития технологии. Раньше, чтобы контрибьютить, нужно было хорошенько разобраться. Сейчас этого барьера нет, и выяснилось, что без него часть людей просто не заморачивается. Это не проблема ИИ. Это проблема нас.