Поймал Claude Code цитировании очевидного AI-слопа как источник

Работал с Claude Code, скинул документацию, попросил разобраться. Модель прочитала — и пошла гуглить сама. Нашла форум. Я случайно открыл из любопытства.

Форум выглядит как настоящий: темы, обсуждения, реплаи. Но что-то зацепило. Пользователи: layer2_liza, security_sophia, blockchain_bryan, ethereum_emma. Паттерн [роль]-[имя]. У каждого поста ровно 4 реплая, после чего дискуссия затухает. Каждый высказался по разу — и всё.

Это не форум. Это имитация форума, которую читают не люди, а LLM-ки. И Claude Code использовал это как источник. А тексты на них сфокусированы на индексацию поисковиками, чтобы попадать в контекст языковых моделей.

- Модели всё больше опираются на веб-поиск в реальном времени
- AI-слоп выглядит всё правдоподобнее
- Если там дезинформация — модель воспроизведёт её с уверенным видом

Раньше я думал только о стороне обучения, ведь продолжительное время модели не обучали на информации после 2022-2023 года, чтобы случайно не обучить на своем же слопе. OpenAI каким-то образом решили эту проблему и все таки дообучили модели новой информацией.

Видимо ждем слоп-детектор, который будет встраиваться перед добавлением контента сайтов в контекст.

Тот самый слоп-форум:
- https://blockeden.xyz/forum/t/deep-dive-how-chainlink-data-streams-power-polymarkets-5-minute-settlement-oracle-architecture-for-high-frequency-prediction-markets/786
- https://blockeden.xyz/forum/c/general/4