TGViewer
AI Projects AI Projects @turboproject · 12.7K subscribers
Post #5371 2.33K
Интересная статья самих адептов TDD, которая показывает, что тесты, созданные ИИ, относительно тестов, сделанных человеком — это мусор.

Если человек сам пишет тесты для контроля результата кодирующего агента, то получается огромный прирост на SWE-Bench +27.8% относительно тестов самого агента.

В режиме самостоятельной генерации их даже улучшенный вариант TDD как TDFlow решает 68.0% задач против 94.3% с человеческими тестами.

Теперь попробуем это объяснить.

Авторы прямо пишут, что главное препятствие для полностью автономного фикса — написание успешных reproduction tests, а не сам фикс. На мой взгляд это значит, что классические тесты от ИИ на safe path практически бесполезны для фикса багов, т.к. реально полезны repro-тесты, которые воспроизводят некорректное поведение, но сам ИИ не может их часто создать, т.к. такие тесты на деле не просто код, а передача от человека к ИИ его «намерения» (intent).

Это согласуется с тезисом Kun Chen: человеческие тесты — ценный asset, автономно написанные — нет.

В чём-то наблюдаемый экспертами парадокс тестов в том, что ручное программирование может сохраниться не в самой разработке кода, а скорее в разработке тестов, т.к. если тесты пишет человек, который понимает замысел приложения, то агент на замысел и подстраивается.

Вероятно, слухи о смерти тестировщиков слегка преувеличены. Если окажется, что это важный процесс разработки, то скорее кодировщиков уволят, а останутся аналитики и тестировщики по созданию тестов. С другой стороны, это указывает вектор действий для тестировщиков сейчас: как им выжить в условиях набега ИИ-ботов на разработку — начать писать «умные тесты».

https://aclanthology.org/2026.eacl-long.70/
ACL Anthology TDFlow: Agentic Workflows for Test Driven Development Kevin Han, Siddharth Maddikayala, Tim Knappe, Om Patel, Austen Liao, Amir Barati Farimani. Proceedings of the 19th Conference of the European Chapter of the Association for Computational Linguistics (Volume 1: Long Papers). 2026.
  • ✍ 14
  • 👍 8
  • ❤ 2
  • 🤔 2
More from @turboproject
  1. Oct 18, 2026Интересная публикация китайских коллег, которая на деле доказывает, что вендоры ещё толком…
  2. Oct 18, 2026Новый DeepSeek V4.1 Flash 1017 прошел специальное обучение на 3D-моделирование, и професси…
  3. Oct 18, 2026🔍 Ещё статья от адептов TDD, где они доказывают прирост качества от TDD на целых 34–48% н…
  4. Oct 18, 2026⚠️ Исследование Microsoft на моделях OpenAI и Anthropic показало ещё один опасный эффект п…
  5. Oct 18, 2026Paweł Huryn опубликовал результаты мощнейшей оптимизации DeepSeek V4.1 Flash 1017 на DeepS…
  6. Oct 18, 2026Anthropic ожидает, что к середине 2027 они перестанут нанимать джунов, а к середине 2028 п…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →