Prompt переводится как “подсказка”, и это довольно точно отражает суть явления. Промпт - это как бы пожелание, а не стопроцентная гарантия результата.

Поэтому странно “просить” модель вернуть валидный JSON: в коммерческом продукте корректный формат ответа должен обеспечиваться на уровне протокола взаимодействия, а не за счёт формулировки промпта. Это примерно как просить инкассаторов не воровать деньги из банкомата😆

Чтобы сервис не падал из-за ошибок в формате ответа, используйте Structured Outputs. Мастехв для продакшена, это позволяет задать схему и гарантировать, что ответ будет соответствовать ожидаемой структуре. (В комменте еще немного о том, какая должна быть схема в Structured Output ⬇️)