⚪️ Управление пулом подписок


Поделюсь актуальной для меня темой - управление пулом подписок. Интенсивное использование ИИ агентов приводит к необходимости пользоваться инференсом в приличных масштабах, об использовании одного аккаунта речи особо не идет.

▶️ Цены и уровни подписок. С появлением подписок за 100 и 200 можно рассмотреть варианты перехода на них, но я пока не особо знаю о количестве инференса в каждой подписке. Пока мне кажется у вариантов покупки аккаунтов плюс на плати маркетах з 300 рублей конкурентов по эоконмике нету! Ведь х20 использования в подписке за 200 - это лишь про 5 часовые сессии, не факт что недельные лимиты там х20. А цена - 300р это $3-4. То есть это х50 к подписке за 200. В общем, каждый сам решает.

▶️ Софтина. Я использую для управления пулом приложение Quotio для macos. Оно рабоатет поверх известного проекта CliproxyAPI, который сам по себе умеет управлять подписками. Кто то использует proxyPal c гитхаба (тоже сделан поверх CLIproxyAPI). Что дает софт? заводите в него подписки, софт настраивает ваших агентов (codex у меня) использовать локальный прокси, а прокси уже при "упирании" в лимит прозрачно перенаправляет аш запрос на другой аккаунт. В итоге работа идет без перерыва, вы просто наблюдаете как таят лимиты))

▶️ Расчеты. В подписки сейчас входят да лимита - на 5 часов и на неделю. Причем, все они важны по разному, но объявляют объем только одного лимита - в 5 часов. Это странно, конечно, но как есть!

▶️ Ротация. Я ставлю в прокси ротацию подписок по принципу "Fill First". Это как раз чтобы посчитать удобнее было. Там есть еще round robin - может быть такое будет удобнее если хочется чтобы 5 часовой лимит сбросился быстрее (тогда каждый аккаунт тихонько потрогают, и он стартует сессию) - но меня смущает кеш в этом случае, возможно, он плохо работает. Поэтому fill first.

▶️ Подсчеты лимитов. Когда пользуешься подписками в режиме fill first, то видно с каким интервалом обновляются аккаунты. У меня получается 45-50 минут между двумя аккаунтами (2 потока с агентами со свармами). Это означает, что если я хочу работать непрерывно "без обеда" - то для покрытия 5 часового лимита: 5 * 60 = 300 / 45 = 6.(6) это 7 аккаунтов минимум в ротации. если слегка "добавить" газа и интервал снизится до 30 минут, то уже 10 аккаунтов. Оценку по непрерывности работы сделали.

▶️ Общий объем. Сейчас одна "выжженая" 5 часовая сессия = 15% недельного лимита (раньше было 30%). Это значит что 45 минут вашей работы - это 15% недельного лимита. То есть 15/45 = 0.(3)% в минуту при ротации аккаунта за 45 минут. Выходит, у вас в одной подписке 303 минуты работы примерно. Если в неделю 7 дней система работает по 10 часов, вам надо 70 часов работы, это 70 * 60 = 4200 минут. То есть в подписках 4200 / 303 = 13.8 ≈ 14. Если оставлять на ночь и будет выходить под 20 часов, то это 12k минут или 40 подписок. Вот вам и диапазон потребления - 14-40 аккаунтов, пока "сделать" больше я не организовал (это облачный оркестратор уже будет, я готовлю - спасибо, exe.dev).

▶️ Подписку за 200 не брал, но мне кажется даже если там х20 - мне ее не хватит)) По мне - это довольно интенсивная работа агентов в день, без "ночных смен", не более. Но на эти деньги пока можно взять 40-50 подписок плюс, что все таки поболее. Инструменты типа cliproxyapi делают удобство использования про/пучка плюсов одинаковым

(ц) вот такая занимательная арифметика!

@deksden_notes