🔍 Очень важный пост с реверс-инжинирингом Claude Code по утечке его кода. Кратко пройдусь по тезисам.
1. Реальный статус успешности правок доступен только сотрудникам Anthropic. Обычные пользователи Claude Code получают ложноположительное заявление Claude об успехе примерно в 30% случаев.
Это связано с известным эффектом «доверчивости» ИИ к статусу операций без контекста. Я писал об этом в части работы с автотестами: нужно давать LLM больше информации, чем просто SUCCESS.
2. Скрытое от пользователя сжатие контекста после 167k токенов.
Причём сжатие не беспроблемное — с потерями названий важных объектов, типа имён переменных. Это одна из причин галлюцинаций Claude в Claude Code.
3. Требование к Claude принудительно упрощать архитектурные решения с целью писать код просто короче.
4. Claude Code уже сделан под рой ИИ-агентов, но часто это недоступно пользователю, т.к. он не знает лимит в 5 субагентов и 167k токенов на субагент, без чего параллелизм не работает.
5. Слепая зона на 2000 строк. Если ваши модули длиннее, то Claude может быть «ослеплён» не всегда хорошо работающим RAG-механизмом чтения чанками кода и просто галлюцинировать обрезанный код в Claude Code.
6. Ослепление Tools с результатами выше 50k символов. Наиболее критично для поиска агентом, т.к. если найдётся много, то агент попадает в preview, но Claude не знает об усечении, поэтому может сделать неверный вывод.
7. AST не применяется в Claude Code.
https://x.com/iamfakeguru/status/2038965567269249484
Post #55
1.66K
Forwarded from AI Projects (Vladimir Ivanov)
- 👍 18
- 👎 4