Claude уже пишет около 90% кода Claude Code. С июня по сентябрь команда стала принимать больше чем вдвое больше изменений, а откатывать их пришлось более чем на 40% реже.
Для масштаба: в монорепозитории Anthropic в мае принимали около 2500 изменений в день, а в сентябре уже больше 30 000. Claude Code хранится отдельно, поэтому смешивать эти цифры нельзя.
Вот как у них всё устроено.
1. Проверка начинается ещё до запроса на слияние. Claude запускает доступную проверку, например тесты или сборку, показывает результат, а потом другой агент свежим взглядом проверяет изменения.
2. Каждый запрос проверяют сразу несколько агентов. Одни ищут ошибки, другие проверяют, настоящие ли это ошибки. Замечание появляется только тогда, когда с ним согласилось достаточно проверяющих. После запуска такой проверки доля запросов с содержательными замечаниями выросла с 16% до 54%.
3. Отдельно проверяют безопасность. Пока замечание не исправлено или не закрыто с объяснением, изменение нельзя принять.
4. Обычные автоматические проверки тоже никто не отменял: типы, тесты на всех платформах и сборка. Для одного изменения таких проверок могут быть десятки.
5. Человека подключают по риску. Простые изменения могут пройти без него. Для среднего риска нужен один проверяющий, для высокого нужны два. Изменения в чувствительных частях системы всегда смотрит человек.
6. Одобрение действует только для конкретной версии кода. Если после него появился новый кусок кода, проверку нужно пройти снова.
7. Перед слиянием все проверки запускают ещё раз уже вместе с последней версией основной ветки. Так ловят ситуации, когда два исправных изменения ломают систему вместе.
8. Новые функции обычно сначала включают сотрудникам Anthropic, затем выпускают в ранний канал и только потом в стабильный. Если что-то пошло не так, функцию можно отключить без нового выпуска.
9. Каждый инцидент и откат превращают в новый тест для агента-проверяющего. Этот набор запускают ежедневно.
10. Они отдельно следят, чтобы агенты не проверяли друг друга бесконечно. Один запрос прошёл больше 50 кругов проверки за ночь. Около 59% повторных замечаний относились к коду, который был там ещё при первой проверке. После трёх кругов проверяющий просит автора остановиться и пересмотреть подход.
И главный замер. Anthropic считает одобрения, комментарии и время ожидания человека, а за долей откатов и инцидентов следит как за ограничителем. Экономия на проверке не считается успехом, если растут откаты и инциденты.
Цифры внутренние.
Источники:
https://claude.dev/blog/solving-code-review-at-anthropic/
https://www.anthropic.com/engineering/redesigning-source-control
https://claude.com/resources/articles/code-review
Post #626
98