Помните спрашивали про децентрализованный инференс и все такое. Так сказать пища для размышления:
- вот так выглядит нормальный стек, как думаете реально заставить игроков поставить так сказать?
- в чем принципиальное отличие от обычной клауд инфры с OSs моделями? (OpenRouter?)
- ах да инференс сам по себе должен идти вместе с другими тоннами фичей
- если модели мелкие что их может хостить обычный чувак, то это значит их можно запускать локально, а значит бесплатно
- ну и да, кто блин обеспечивает SLA, поддержку, да что угодно важное для бизнеса? Правильно - никто.
И давайте никогда не пользоваться тем, где есть слово «утилити токен», нас же жизнь чему-то научила.
Но наверное поиграться кому-то может интересно.
Post #1310
5.68K
- 💯 17
- 👍 7
- 😁 3