Если вы не делаете свои сервисы – не читайте дальше, вам это ни к чему
У меня есть сервер в РФ, на котором у меня крутятся всякие боты и демки. Как только я хочу отправлять запросы к LLMкам, все ломается – ни openai, ни anthropic ни гугл не отвечают пользователем с российскими IPшниками
Варианты:
1. Перетащить все на мой американский VPS (будут больше задержки для всего, особенно для демок на streamlit'е)
2. Использовать OpenRouter (все мы знаем тенденцию штук с приставкой Open переставать такими быть. И не будет оригинальных личных кабинетов. Но в целом норм вариант)
3. Сделать из американского сервера прокси. (Самый бесшовный способ)
В первом комменте инструкция для тех, кому нужно
Если вам нужно, но нет своего сервака вне РФ, можно мне в личку написать, я в вайтлист своего могу добавить IPшник вашего сервера
(для обычных устройств это не нужно, просто используйте VPN)