Устанавливается Comfy SDK, добавляется API ключ взятый с Comfy Developer Platform, вписываются нужные модели (пока доступны Seedance 2.5, Nano Banana Pro, MiniMax H3, GPT Image 2, Kling, и Black Forest Labs), и затем выбирается провайдер с лучшей ценой и доступностью в плане очереди. Новые модели переключаются простой сменой текстовой строки в коде.
Пример запроса:
from comfy_sdk import Comfy
client = Comfy(api_key="comfyui-...")
result = client.models.run(
"openai/gpt-image-2",
arguments={"prompt": "aerial view of a neon coral reef at dusk"},
provider="fal",
)
Если выбранный хостинг недоступен, запрос не перенаправится «втихую» на другой, а вернет ошибку, сохраняя контроль над стоимостью и регионом вычислений.
Так как контент генерится порой десятки минут, через метод submit роутер мгновенно возвращает ID задачи, а встроенный менеджер очередей сам обрабатывает сетевые сбои и лимиты нагрузки, удерживая и продвигая задачу до победного конца.
Оплата только за API запросы с единого баланса кредитов в воркспейсе Comfy, без подписок. При этом проверка баланса происходит до валидации самого запроса — если кредитов нет, система сразу вернет ошибку 402, экономя ресурсы на обработку некорректных данных. Если соединение оборвется посреди транзакции, повторный запрос с тем же ключом вернет статус уже запущенной задачи, полностью защищая баланс от двойных списаний.
Загруженные входные ресурсы (assets) и сгенерированные файлы автоматически удаляются из облачного хранилища ровно через 24 часа.
Вектор Comfy понятен, но в нынешнем виде, как по мне, слишком много ручной работы, и из-за этого пропадает сама суть – роутер должен автоматически маршрутизировать задачи и выбирать самые дешевые / быстрые генерации из пула провайдеров. Тем более, что цены тут автоматом тоже не парсятся и тебе нужно вручную их отслеживать на на сайте Comfy.
Анонс
Comfy Developer Platform