Суббота – отличное время, чтобы поделиться своим факапом. История про то, как я чуть не залетел на 30к с OpenAI API

Короче, есть у меня флоу в n8n в котором есть узел с OpenAI. Я туда передаю определенный текст, ИИ нужно из этого текста сформировать список положительных критериев и посчитать их количество, чтобы на выходе у меня была конструкция типо «Оценка 6/10». У ИИ с математикой плохо, поэтому для надежности я вызывал tool который кодом считал количество положительных критериев и возвращал их в модель.

И по какой-то ебучей причине у open ai в такой конфигурации случился глюк при которой оно бесконечно зациклило вызов этого тула и подсчет количества в одном рабочем процессе вызвался у меня 2600 раз.

Обнаружилось это всё на следующий день и благо, что это был последний день августа т.к вызовы закончились из-за того, что закончился бюджет. Иначе могло бы быть гораздо больше.

А еще нубский момент, который я узнал про n8n - сценарий не завершается по установленному тайм-ауту, пока не перейдет от одной ноды к другой. Поэтому сценарий отрабатывал несколько часов, вместо максимальных 10 минут.

Но в итоге решилось всё хорошо: написал в поддержку, описал ситуацию, приложил пруфы и в итоге деньги за этот глюк вернутся. Но ситуация неприятная.

Чтобы не допустить подобного в будущем отрубил вызов подсчета и вынес его просто в отдельную ноду.

Надеюсь вам будет полезно и вы не повторить моих ошибок😀