Я почти похоронила своего бота ))

Напомню, я сделала ботика, который парсит вакансии из тг, hh и линкедина, и собирает из них персонализированную подборку. Прототип я сделала за вечер на большой дорогой модели. Собрала фидбэк, пофиксила ошибки — всё ок. Но я прекрасно понимала, что если выкачу этот прототип сюда, в канал, вы меня разорите )) В той архитектуре косты росли линейно с аудиторией.

Я потратила много свободных вечеров, чтобы это поменять. Разделила пайплайн на 2 части: общий кусок, который делается один раз для всех, и персонализированный для каждого юзера. Общий кусок постаралась перевести на настолько маленькие модели, насколько это было возможно. В персонализированном вообще убрала ллм — заменила всё на эмбединги. Обмазалась эвалами в попытках не сильно просесть в качестве после оптимизации… и в какой-то момент почти сдалась. Выходило либо всё ещё слишком дорого — никакой здравомыслящий человек столько не заплатит, либо некачественно — за такое просто никто не заплатит.

Я думала, что у меня кривые руки, но вынырнула из своего корпоративного пузыря и посмотрела на рынок. Десять лет назад В2С-продукты собирали ~30% венчурных денег, сейчас — меньше 7%: дистрибуция подорожала, большие ниши заняли гиганты. GenAI мог бы стать новой волной в B2C — более удобный пользовательский опыт, все стартуют с нуля. Но не стал. В genAI доля B2C те же ~6%. Цифры не новые, но одно дело читать про них, другое — прочувствовать на своём опыте.

Люди в B2C никогда массово не платили. Просто раньше бесплатный юзер ничего не стоил, и его монетизировала реклама. А в genAI продуктах каждый запрос бесплатного юзера — это затраты на инференс. Рекламная модель пока толком не выстроена, а та готовность платить, что у людей есть, уходит в одну генеральную подписку: в мире ~70% consumer-денег в genAI забирает OpenAI.

Экономика сходится либо у B2B-продуктов (бизнесы могут и готовы платить большие чеки), либо у внутренних, которые экономят косты. Ну и остаются гиганты, но у них своя игра — не отстать от рынка по пользовательскому опыту и не начать терять долю.

Я лично наблюдала, как несколько классных AI-стартапов переориентировались из B2C в B2B, и расстраивалась: продукт для физика обрастал ненужным функционалом и становился неудобным.

Забавно, как на старте карьеры я изо всех сил покачивала недостающие навыки, чтобы перейти в В2С. Казалось, что продакты без В2С-опыта какие-то ненастоящие продакты. Прошло восемь лет, и кто тут теперь ненастоящий продакт ))