TGViewer
AI Projects AI Projects @turboproject · 12.7K subscribers
Post #5372 1.54K
🔍 Ещё статья от адептов TDD, где они доказывают прирост качества от TDD на целых 34–48% над no-TDD baseline, но тут надо сразу метить лукавство таких оценок эффективности, т.к. по факту тут TDD становится критерием оценки эффективности самого себя, т.е. берутся acceptance tests и признаются сами по себе аксиомой качества. При этом насколько произошёл их дрейф от спецификации и вообще то ли они оценивают, что хотел пользователь — вопрос открытый.

Однако даже если вы сторонник TDD, то можно заметить best practice от профессионалов в нём:
* Не используется классическая трактовка Бека как тесты для определения дизайна приложения, хотя они и делаются до него, речь строго про acceptance test, а не что-то другое, т.е. это скорее ATDD, а Бек просто академизм, которым не пользуются практики TDD
* Важнейший приём — компиляция ВСЕХ тестов строго из спецификации, причём всегда тесты пересматриваются все заново при новой ревизии спецификации, по смыслу статьи нет процесса апдейта старых тестов как процесса, т.е. их выкидывают
* Ручной review автоматических тестов — это очень тонкий момент, который не сразу бросается в глаза при прочтении статьи, но это не автоматические ИИ-тесты, если человек сработал даже как ревьюер тестов ИИ.

📌 Довольно важное наблюдение из статьи, что TDD может вызывать феерический перерасход токенов. В случае Qwen метод вызывал перерасход токенов на решение задачи в… 25 (!) раз.

Лучшая конфигурация для Sonnet 4.6 (Agentic TDD): ~91K токенов на 1% прироста.
Лучшая конфигурация для Qwen-3.5 (Incremental TDD): 2,327K токенов на 1% прироста.
Разница в эффективности: 25-кратная (2,327K / 91K).

Это как раз говорит о серьёзной ещё проблеме TDD, что качество даже прохождения тестов растёт очень медленно, причём часто расход токенов идёт взрывоподобным образом. Это же видно и по Sonnet 5.5 в Bug Hunt.

Причина кроется в холостых итерациях фикса: агент может создать огромное количество зелёных тестов, которые бесполезны для ловли багов, но он тратит на них огромное количество токенов.

https://arxiv.org/abs/2605.17242
arXiv.org From Runnable to Shippable: Multi-Agent Test-Driven Development... Coding agents can generate runnable web applications, but their outputs frequently fail to satisfy functional requirements. Although test-driven development (TDD) offers a principled repair loop,...
  • ✍ 7
  • 👍 3
  • 🔥 3
  • 🤯 1
More from @turboproject
  1. Oct 18, 2026Новый DeepSeek V4.1 Flash 1017 прошел специальное обучение на 3D-моделирование, и професси…
  2. Oct 18, 2026Интересная статья самих адептов TDD, которая показывает, что тесты, созданные ИИ, относите…
  3. Oct 18, 2026⚠️ Исследование Microsoft на моделях OpenAI и Anthropic показало ещё один опасный эффект п…
  4. Oct 18, 2026Paweł Huryn опубликовал результаты мощнейшей оптимизации DeepSeek V4.1 Flash 1017 на DeepS…
  5. Oct 18, 2026Anthropic ожидает, что к середине 2027 они перестанут нанимать джунов, а к середине 2028 п…
  6. Oct 17, 2026Я заинтересовался, а нет ли ещё каких-то доказательств бесполезности тестов, которые получ…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →