Просили пояснить за генеративщину =>

"А когда вы просто закидываете ТЗ, нейронка переходит из режима верификации в генеративщину: она просто подбирает правдоподобно выглядящее решение, которое внутри как правило ужасающе криво архитектурно."
Что, правда что-ли это так устроено??
 
Ага. Думающие модели обучены генерировать (многими шагами) промежуточные токены перед окончательным ответом: именно это и позволяет им решать сложные задачи из математики и программирования. Так устроены и жпт, и клоды, и кими, и глм...
 
Но едва модель видит, что  заказчик лох (не способен дать чёткую структуризацию задачи) и ему можно загнать генеративную туфту, она не включает внутренние рассуждения, а сразу начинает жечь побольше токенов.