[38/100] Витя Тарнавский

Очередная попытка купить у нас T-Pro 🤡

Анонс: Turbo ML Conf 2025 19 июля!

Мы очень стараемся сделать одну из лучших профессиональных конференций по ML – вместе с вами. В прошлый раз получилось, в этот раз мы поднимаем планку выше.

Мы добавили новый большой трек про LLM Applications & Copilots. Реальные кейсы, инженерные подходы и хаки-трюки!

В этом году в программе 5 потоков, 35 спикеров:
→ NLP
→ Research & RnD
→ CV & Speech
→ RecSys
→ LLM Applications & Copilots🔥

Программа и регистрация здесь. Залетайте!

Ребята, дарю идею бизнеса

У всех компаний появилась проблема с собеседованиями и ChatGPT. Люди подставляют себе ChatGPT в слушающем режиме и просто зачитывают правильные ответы.

Появились даже отдельные продукты - копилоты на время собеседований и даже шептуны в ухо которые слушают звонок и нашептывают тебе в ухо правильные ответы )

Что делать? Всё просто! Строим сеть офлайн интервьюшных, где у тебя отбирают твою технику и сажают перед местным ноутбуком. Компании арендуют в них время и получают гарантию что никакие ChatGPT не используются.

Если это не анальный зонд, конечно, как у того шахматиста. Хотя конкретно этого шахматиста там теперь тоже проверяют.

Офигенный рассказ был от Jordi Pons про влияние AI на музыку. Jordi - титулованный AI Researcher в области музыки из Stability AI. Самое классное:

– Новый тип диджеев – Prompt Jockeys. Ты не миксуешь чужие треки, ты на лету генеришь музыку промптами через генеративный AI. Woah... смотреть тут

– Бесконечные потоки генерации музыки по жанру как явление. Обязательно послушайте бесконечную генерацию Death Metal 🌟: RELENTLESS DOPPELGANGER Послушать разные можно на сайте проекта DADABOTS.

– Генеративный коллаборативный альбом Kust Kaputt. Каждый может сгенерировать ремикс на треки автора SENAIDA с помощью AI и добавить его к альбому, разделив 50/50 профит с изначальным автором. Потрясающий сайт с генерацией музыки, потыкайте: https://www.kunstkaputt.world/

Jordi говорит что в Stability AI стало сильно стабильней (хех) после смены CEO и новых инвестиций. Раньше у них были большие проблемы. Помимо Stable Diffusion, Stability выпускает модели генерации звука и недавно выпустила Stable Audio 2.0. Звучит неплохо! Послушать и почитать тут

Ещё у Jordi классный блог Art in Tech на Substack

Стенд DeepMind
А вот тут их тулза для синтеза музыки по промпту Lyria 2, наподобие Suno:
https://deepmind.google/models/lyria/

Я сейчас на Sónar, это такой музыкальный фестиваль и конференция в Барселоне.

Тема этого фестиваля – AI in Music. Много стендов, много выступлений про AI в музыке. Есть целиком генеративные выступления! Я прям очень впечатлен 🔥

Что я уже увидел:
– Доклад про тренды AI в музыке от инженера из Stability AI (Stable Diffusion)
– Интерактивный стенд от Google DeepMind с синтезом музыки
– Куча плагинов для DAW генерящих звуки и музыку
– Потрясающие интерактивные стенды на потыкать и послушать

Порадовал плагин для генерации звуков по датасету. Загружаешь банк звуков – например, звуки животных – и орешь в микрофон. Генерится звук животного максимально похожий на твой звук )

Буду постить отсюда интересное, тут прям классно 🔥

...

Карта инструментов для создания GenAI решений

Собрал для вас карту библиотек, продуктов и сервисов для создания сервисов на LLM. Карта разбита по слоям: от железа до агентских фреймворков.

Будет полезно:
• Инженерам которые хотят строить LLM-решения
• Техническим лидерам которые хотят понять какие платформы строить на уровне компании
• Тем, кто уже понял, что дело не только в моделях, и хочет разобраться

КАРТА
Предложения и замечания - в личку: @the_real_jkee
Ваш @singularityfm

Навайбкодил себе бота против спамеров, зовут фильтроняша 😽

Мило комментирует каждое сообщение в отдельный чат )

4.1 mini и один промпт, replit

GEO - Generative Engine Optimization

"Лучший автосервис в Москве" и другие подобные запросы перетекают в OpenAI и Perplexity. Значит, со стороны бизнеса нужно правильно себя в генеративном поиске представлять. Всё это назвали GEO.

Что здесь нужно понимать.

1. Технически, под генеративным поиском (включая OpenAI и Perplexity) лежит обычный поисковый индекс. Это такой более сложный RAG.

2. Генеративные поиски дают менее 0.2% трафика. Но он там не всегда и нужен. Например, выбор автосервиса можно в Perplexity и закончить.

3. Это – промежуточный этап. В мире агентов AI будет завершать задачу, а не просто рекомендовать бизнес. Значит, нужно думать не только про ток как AI тебя может прочитать, но и про то, как он может твоим бизнесом воспользоваться. Если интересно погрузиться, советую внимательно изучить Google A2A.

a16z про GEO, ahrefs про траффик от generative search

«Витя и пиджаки» 💅
ЦИПР, Нижний Новгород

Датацентр на 200.000 GPU: 122 дня
Обычный жилой дом: 234 дня

У меня ремонт в квартире тоже 9 месяцев шел 😅
Мог бы уже два датацентра построить

Эта и предыдущая картинка из большого индустрийного отчета Mary Meeker.
Отчет огромный, много интересного, много воды

Open vs Closed модели

Показательная картинка на примере решения сложных математических задач. Видно, как открытые модели повторяют возможности закрытых моделей за месяцы, и это время сокращается.

Задачки там сложные, вот пример:

Let (x,y) be an ordered pair of real numbers that satisfies the equation:
x² + y² = 14x + 48y
What is the maximum value of y?

Часто слышу, как говорят что "скоро США/Китай прикроют эту лавочку с opensource". Как будто не прикроют, нет.

Происходит другая вещь - сами модели сравниваются и перестают быть преимуществом. Приближается время когда у всех будут похожие по производительности базовые тушки. Гонка теперь происходит на более высоких уровнях - платформы, продукты, бизнес-применения.

Данные можно потыкать на AI Benchmarking Hub Epoch AI, оч крутой ресурс, рекомендую.

Ну наконец-то сдвинулись в Телеграме
Фичи по видео очень правильные, посмотрите.
Активно ждем 🥳

🔥 This summer, Telegram users will gain access to the best AI technology on the market. Elon Musk and I have agreed to a 1-year partnership to bring xAI’s chatbot Grok to our billion+ users and integrate it across all Telegram apps 🤝

💪 This also strengthens Telegram’s financial position: we will receive $300M in cash and equity from xAI, plus 50% of the revenue from xAI subscriptions sold via Telegram 💰

Telegram + Grok = ❤️📈🏆

Примерно так выглядит текущая ситуация с наймом, увольнением и AI хайпом 🤡

Смотрим на примере Klarna:

Компания останавливает весь найм и говорит, что AI заменит недостающих сотрудников. CEO компании публично говорит Сэму Альтману:

I want Klarna to be your favorite guinea pig

Затем что-то идёт не так, и они обнаруживают, что качество поддержки начинает сыпаться. Происходит отток клиентов и прочие проблемы:

“As cost unfortunately seems to have been a too predominant evaluation factor when organizing this, what you end up having is lower quality,” he said. “Really investing in the quality of the human support is the way of the future for us.”

И Klarna открывает ворота найма назад :)

Ситуация довольно типична: лица принимающие решения не до конца понимают возможности технологий и делают слишком опрометчивые прыжки.

Мы снимаем сериал про AI-Центр Т-Банка !!!

Реально, настоящий документальный видео-сериал. Рассказываем про технологии и продукты, про появление AI-Центра в компании, про баги джуниор-ассистента и многое другое.

Ребята оч классно рассказывают, смотрите обязательно! Я там тоже есть.

Вышло уже две серии: NLP, Speech (vk зеркало)

Это я готовлю панакоту и рассказываю про AI 👨‍🍳Иммерсивный формат от ребят из @sthhb

Говоришь про качество агентов и тут подгорает стейк

Говоришь про блендер в рекомендациях и тут реально врубают супер громкий
👁👁👁👁👁👁👁

Весело, шумно, всего один порезанный палец

Perplexity P&L за 2024 год. Статья

1. Экономика нормальная для быстрорастущего сервиса — он и должен быть в минусах, но с понятной траекторией выхода в плюс. Растут они колоссально - только по ARR рост на 500%+ в год.

2. Большую часть денег компания получает с индивидуальных подписок. Но это не навсегда. Perplexity уже заявляли что на подписках не прожить:

Experience has taught us that subscriptions alone do not generate enough revenue to create a sustainable revenue-sharing program.

Но пока что наблюдаем ничтожные $20k от рекламы.

3. Интересно, что большая часть расходов это web services. Perpexity это уже давно не "продукт over chatgpt", у них в дефолте стоят свои модели, дообученный опенсорс. Судя по paycheck, обучение и инференс этих своих моделей это большая часть затрат.

4. $5M в Legal services 🥴 Это паблишерские кейсы - Wall Street Journal, New York Times и другие паблишеры подавали на них в суд.

Пожелаем ребятам удачи вырвать кусок рынка между гигантскими Google и OpenAI