Ответ: без вычислительных мощностей, а именно графических процессоров (в народе - гпу)
Хотите дообучить LLM?
- нужны GPU
Хотите, чтобы ваш ИИ сервис работал быстро?
- нужны GPU
Хотите просто взять open source LLM и запустить только для своих сотрудников?
- нужны GPU
Ну, а так, как сейчас множество участников рынка бросилось создавать свои собственные ИИ решения (при этом не забываем, про крупные отечественные корпорации, которым постоянно нужно больше железа и аппетиты у них серьезные), то на российском рынке облачных вычислений наблюдается дефицит гпу 🫣
Доказательства прикрепил🔔Поэтому, если кто-то ищет бизнес-идею, то вот она:
- закупите GPU
- организуйте вычислительный кластер
- сдавайте GPU в почасовую аренду по отдельности и в виде кластера компаниям, которые занимаются ИИ
P.S. Нам для нашей задачи удалось выцепить GPU, но это было не без боли 🥸