Любопытный подход. По мне, так и интернет поиске должно работать - берешь маленькую модель, чтобы она нашла все, что более-менее подходит, а большая модель изучала только эти ссылки и ничего другого.

С программированием тоже может работать, но тут уж лучше сразу писать хорошей моделью - больше времени и токенов на отладку потеряешь...

https://t.me/machinelearning_interview/2468