Для демонстрации приведу пример потери детерминированности, который произошел со мной в одном проекте. У меня есть query builder(что-то, вроде doctrine query builder), для гибкости и поддержания проекта мне периодически приходится переводить sql запросы, которые я ручками создал, в формат query builder. Я написал промпт вроде "Смотри вот документация, прочитай ее, мне нужно, чтобы ты переводить sql формат в эту вещь". Если бы я писал программу на типичных ЯП, мне бы пришлось писать анализатор sql запросов(или взять готовый), и на основании выходных от анализатора генерировать новую структуру. В лучшем случае это заняло бы несколько часов, но при этом результат был бы однозначным, я бы точно получал запрос query builder. Тут я за 5 минут накатал промпт(который по сути является программой транслятором), который в целом работает неплохо, но сначала он не совсем ту документацию прочитал, потом посчитал что метод в одной библиотеке не реализован(а он был реализован), пришлось явно его все указывать, просить обновлять контекст и тд. И сейчас я не уверен что он будет однозначно работать. Но для моих задач этого достаточно. Вопрос в том, что когда вы делайте что-то похожее с финтех транзакциями, и пишите промпт "У меня есть json с платежной транзакцией переложи мне его в postgresql" я бы таким пользоваться не стал, не стал бы рисковать(и не только в финтехе, а мало-мальском продакшене)