OpenAI PRO 500
Наверняка помните, когда начиналась продолжающаяся сегодня ИИ-волна, выход "ОЧЕНЬ ОПАСНОГО" GPT-2, claude Sonnet 3, 3.1, в тот момент платить $20 за модель казалось чудовищно дорого, 100$ чувствовались как для олигархов, про 200..можно и не говорить, не помню была ли она тогда, ведь о ней я даже не задумывался.
Сегодня оплатил PRO подписку за $500.
Какой итог?
Лимиты PRO за $500 по ощущению, не знаю точно ли это так, но ощущаются так же как лимит PRO $200.
Ты буквально сидишь-работаешь, не в 20 разных окон как это было раньше, работаешь с 1-2 агентами Astra и лимит уходит так будто лимит это сливочное масло, а твоя попытка что-то сделать - микроволновка.
Честно, это не преувеличение и не беспочвенный хейт.
Что вообще получаешь на подписке за $500?
режимы ultrafast для Astra и Sol.
Которые, можете сами посудить из этого поста где я делал замеры реальной скорости, мягко говоря удовлетворительные.
Изначально скорость 20 токенов в секунду и при включении Ultrafast ты получаешь x8 скорость = ~160-180 t/s
Это не ultrafast.Это даже не fast.Это обычная скорость инференса.
Локальная модель которую я запускаю на пк выдает ~90 токенов в секунду с контекстным окном 256k на macbook pro m5 max 128gb
Это модель qwen-3.8-flash-Next на 180 млрд параметров.
Я очень, очень надеюсь, что стоимость оперативной памяти и прочих комплектующих продолжит падать, а не начнет контролироваться OpenAI/Anthropic и пр ИИ компаниями, чтобы было невыгодно покупать устройства для локального инференса, что было бы чертовски прискорбно.
Post #365954
47
Forwarded from Tlinov (Magray)