"Intelligent Machines and Idiotic Humans: A Startup Story"
(идеи для AI-стартапов)

Серия 12. Sam Altman is saying that AI is going to lead to a 1-person $1 billion business.

Рассказываю, как вы сегодня можете за несколько месяцев в одиночку создать AI-стартап в России на многие миллионы прямо сейчас! А дальше, кто знает?

На этой неделе IBM выложила модельки Granite Code, заточенные специально для программистов!

Granite Code models achieve competitive or state-of-the-art performance on different kinds of code-related tasks, including code generation, explanation, fixing, editing, translation, and more.

Голубой Гигант утверждает, что в генерации кода их модельки рвут даже LLama 3.

Фреймворка для них вроде пока нету (точнее, есть ибмовский watsonx.ai , но его фиг получишь), но вы можете легко и просто установить их локально отсюда стандартным для huggingface способом: ставите pytorch, затем transformers, ну и простой скрипт запуска и теста есть на вышеупомянутой страничке.

Засада в том, что комп с 16 гигами оперативки не потянет даже самую маленькую модельку с 3 миллиардами параметров, а там есть аж и на 34 миллиарда )))

Да, есть Hugging Face Model Hub, есть Spaces, есть Transformers Playground, но они достаточно большие модели запущают только в платном режиме, из РФ недоступном. И это хорошо :) Потому что вот это и есть супер-ниша для национальных AI-стартапов.

Это работа уровня студенческого диплома. Сервис, чтобы можно было в любимой Российской Федерации с этими модельками работать онлайн. Спрос в России будет прекрасный, гарантирую! Причём как от частников, так и "корпоративный". Файнтюнятся Granite Code отлично, можете под конкретные корпоративные проекты делать тюнинг в заказном режиме, или наоборот натаскивать модели на конкретные фреймворки вроде Django или Spring, и т.д. и т.п.

Деньги под ногами сегодня (пока) валяются тоннами.