ChillHouse

На тему приложений и AI бума. Вообщем приложений много, но ими никто не пользуется. Персональный софт выходит.

На тему контроля за AI

У меня ко всем этим лабам и компаниям, которые разгоняют тему AI до небес есть один вопрос. Почему из этих топ омега крутых команд уходят люди, не просто люди, а руководители? Если ты видишь что условная твоя лаба на пороге открытия и завоевания всего мира. А ты уходишь делать свой стартап по пост трену. WTF?

Ну то есть допустим кого-то люди и атмосфера не устраивает. Но денег, возможностей там выше крыше внутри. Увольнения? Ахах. Вряд ли. Но может доля есть.

Новое эссе Дарио главы Антропика. Главная мысль в скриншоте. Остальное полезно прочесть. Дальше полезно подумать про конкуренцию и ipo.

И мнение Сэма тоже туда же. Наверное кто-то еще должен так думать да?

Еще мемов захотелось покидать. OpenAI стопнули новые подписки на 200 баксовый план. A few moments before

Всем особо обеспокоенным напоминаю несколько деталей последних событий:

1/ взлом HuggingFace агентами это блин не «модель такая сидит и думает как бы ей сломать какой-то сервис». Это конкретный набор инструкций из exploitgym который напрямую указывал что делать. Ничего сами агенты пока не ломают (по собственной инициативе). Что за чушь?

2/ ai решает сам задачу тысячелетия! Все нам конец. Нет. Не сам он решил. Взяли ребята огромный пласт готового рисерча и обучались на трейсах и дальше по-умному забрутфорсили (так же как с другими гипотезами). Самостоятельно никакая модель пока ничего не решает. Попробуй сам.

3/ но самое забавно это пост какого-то там чела 27 летнего который поработал в OpenAI и потом в антропике начал качать тему: аи нас всех убьет. Вас скорее убьет что-то типа машины на дорого чем аи. Если в целом кого-то беспокоят такие риски советую не выходить из дома уже сейчас.

The future is here

Ну это солидный результат. Решение навье стокса.

Драма там по пути такая что челы догадались в какую сторону копать, а OpenAI подсмотрели в логи кодекса их и запустили на своем кластере и более мощной моделью :)

Немного подробностей, 300 ярдов токенов на выходе. 10к агентов. Вот это брут форс я понимаю.

Тем не менее топ! Грац!

Major release от нашей небольшой лабы. Поддержка спекулятивного декодинга в нашем инференс движке.

Для начала Qwen3.6 27B, поддержка Qwen3.8 27B и Muse Glimmer в пути.

Мы сильно превосходим все возможные стеки для Apple Silicon по производительности. Потому что взяли и все сделали как ко-дизайн: кернелы, квантизация и спекуляция. Все с нуля, все свое.

Попробовать можно уже сегодня
M checkpoint - поменьше
L checkpoint (lossless)

Все модели которые мы поддерживаем лежат тут, будем рады если попробуете что-то еще.

Бенчи тут. Можно изучить как и что измерено и насколько лучше.

Подробнее про релиз блог пост

Типичный цикл AI native компании. Делаем харнесс для какой-то задачи или агрегатор там апишек + промтов. Скейлим платным трафлом (тут умирают 90% потому что это правда сложно). Дальше, когда ты большой уже становится сложно делать фичи ибо зависишь целиком и полностью от модели (ну может она или нет). И пытаешься как Harvey сделать свою или посттрейн хотя бы. Тут ты понимаешь, что стоишь то ты миллиарды, но фичи выпускать уже почти не можешь и в спину дышат лабы. А где найти людей на все такие компании, которые умеют в тренировку моделей и эвалы и все все да и еще и за месяц. А никто не знает.

Вообщем так сейчас у многих;

Ну это неплохо

Самые «классные» бизнес идеи текущего года. Ну типа «норм темки» попробовать с небольшими комментариями:
- вертикальные всякие rl envs, verifiers, прочая муть для упрощения rl. Тут важно перед тем как делать убедиться что есть контакты в лабах, чтобы продавать им это все. В остальном хороший бизнес на оценку 50-100м. Выкупается большими компаниям и лабами часто.
- инфра для роботов, мало шарю, но вроде заезжает норм, говорю про софт. Логика такая же как и в прошлом пункте. Желательно делать со знанием заказчика.
- тяжелые оптимизации на уровне data centers etc. Всякие очень узко заточенные вещи для инференса или тренировки моделей (там где каждый прогон стоит миллионы). Например вы знаете как сделать хорошо тренировку определенной архитектуры или обеспечить более высокий mfu.
- pure research ну потому что даже если вы нихрена не сделаете толком, вас купят как команду. Весь смысл собрать норм состав. Остальное не так важно. Ставка на неолабы у фондов популярна. Потому что возвраты денег почти гарантированы.
- application layer. Но тут важно понимать что актуально скорее не бизнес часть, а UX часть. У лабов и больших компаний есть потребность в реализации определенных фичей (смотрим покупки OpenAI)

Практически все это тяжело валидируется без глубоких доменных знаний. Абсолютно не актуально вне определенных географий и без таланта на борту. Такие дела.

Самое худшее, что может линкануть фаундер стартапа это вайбкоженный дизайн by Claude code design. Не важно дек, сайт, какой-то лендинг небольшой. Первое, что хочется сделать это закрыть.

Не знаю как у вас я узнаю с первого скрола.

Поясню:
- никто не читал контент почти наверняка, там абстрактные фразы, двусмысленные формулировки и так далее
- оооочень много всего и мелким шрифтом
- продуманного повествования почти никогда нет
- но самое важное это то, что в индустрии аллергия на это
- ах да есть люди, которые используют вот такое как плагин в браузере

Новый тренд в венчуре

Первая большая жертва биг лабов и китайских моделей. Mistral.

По факту их стратегия: мы построим для местных госов и прочих дата центр и станем ака SAP/Palantir консультировать и внедрять. А модели свои, ну если надо можете взять, вот API.

Короче rage bait пост. Про бизнес, предпринимателей, венчур и «взрослую индустрию tech».

TLDR: венчуру в его текущем виде конец, будут только большие раунды, предприниматели прошлого цикла (а-ля инстаграм кофаундеры) потеряли свою ценность, их опыт не нужен.

А теперь по порядку. Мы находимся у порога технологического цикла. Входного порога конечно. AI такая штука которая срезает все «среднее», «ну такое» и прочее ниже этого по качеству. Технология меняет местами в приоритете две важных вещи. Возможность сделать и возможность проверить.

Раньше самым большим порогом входа было: собрать команду, найти денег чтобы им платить, мотивировать и так далее. Поток людей в индустрию рос. Было много гипотез, но чтобы их проверить нужно было время и ресурсы. Гипотезы были очень простые. О давай продавать это или отмечать фотки на карте, отмечать клиентов в табличке и трекать прогресс. Все было открыто (интернет меньше регулировался). Поэтому предприниматели славились своими софт скилами. Не так важно было знать проблему и ее решать, важно было найти людей и итерировать. Это ценилось превыше всего.

Сегодня я вижу картинку по-другому. Порог до проверки гипотезы упал до нельзя. Простые вещи проверить можно на коленке. Посмотрите на вайбкодинг подделки. И тут оказалось, что решение проблемы в RL стоит сотни миллионов, а твой новый SaaS две выручки дай бог. И для меня поменялось местами следующее. Раньше важно найти с кем и засетапить. Теперь важно очень точно понимать что делать, и желательно формулировать конкретно. И это пресловутое знание в век AI компаний оказалось очень техническим и очень сложным. Залетели первые компании типа perplexity & Harvey. А дальше читая описание компаний поднимающих 200м сразу даже не понятно. И это не потому что они делают чушь (клоуны ахахах), а потому что не понимаешь в чем вообще суть проблемы ими решаемой.

Следом за кризисом у предпринимателей будет кризис аллокации капитала. Ведь теперь нужно разбираться «на что» давать бабки, а не кому давать бабки. Что очень ломает мир инвесторов. И софт скилы отходят на второй план, ведь собрать команду под четкую проблему и зная что внутри легче, чем под «Тиндер для собак». А значит нужны инвесторы которые шарят. А таких будет мало, ибо им легче сделать свою компанию.

Все эти вещи можно заметить уже сейчас: топ рисерч челы уходят из гугла, в инвест фондах меняются лица, потому что прошлые лидеры просто не понимают что происходит. Тупо банально не вдупляют в смысл происходящего.

Такая стадия во многих индустриях. Там где венчура то и нет. Где стало сильно меньше высокорисковых идей с потенциалом. Потому что идеи стали сложные слишком. Это нас ждет и в tech. И да я бы не инвестировал бабки в трек рекорд прошлых лет, а лучше бы студентам норм профессора по ml закинул. Такие дела.

Вторую часть может тоже напишу. Но предрекаю огромное количество «великих предпринимателей» у которыхт в эпоху AI ничего не выйдет. Совсем.

Наблюдения последних недель.

1/ есть два лагеря о том, как достичь AGI - это у нас rsi (recursive self improvement) и world models. Первый представляют Anthropic & OpenAI. Второй Google DeepMind. И из-за того что лидер дипмайнда не верит в то, что опенаи получается надо и то и другое делать и поэтому так все медленно. Короче корпоративное опоздание. Но чья ставка сыграет не ясно никому.

2/ в Китай возвращаются те, кто работают в топ местах в сша. Основная идея: они верят что смогут так же как в свое время сша осуществить «китайскую мечту», а именно получить мультипликаторы к оценке их компаний в разы больше. Другими словами нас ждет китайское господство в аи. Я бы сказал, что это более чем вероятно. Учитывая количество усилий и веры. И супер талантов.

3/ в математике назревает кризис. Многие PhD будут мягко говоря обесценены. И я считаю произойдет в целом большая реструктуризация мира наука. Ибо аи сможет буквально открывать и решать 50% текущих задач. И все еще «совсем новых» смыслов пока не видать. И я думаю, что проблема с поиском нового такая же как проблема с написанием резонирующего текста. Потому что в теории относительности важна не сколько теория, сколько идея. Дальше так сказать можно добежать уже как-то.

4/ найм это ад. Рядовой рисерчер в Anthropic (и других топ лабах) получает 10м+ за 4 года. Жизнь боль.

5/ многие компании с трудом осознали, что масштабирование зависит от их возможности тренировать свои модели. Harvey, Cursor (не смогли и сдались чтобы делать в другом месте) и другие

6/ оказалось квантовые вычисления очень быстро развиваются и там много всего интересного особенно в области квантовых нейросетей (лолкек), писать про это?

Какие у вас новости?

Давно, не делал. Когда-то в канале было, в начале времен. Вообщем AMA или ask me anything (спроси что угодно). Закидывайте в комментах. Постараюсь по возможности ответить.

Воскресное.

По теме нетворка. В целом все просто. Если с вами не хотят говорить значит вы делаете что-то, что другому человеку не интересно. Объяснять, убеждать, обижаться просто бесполезно.

В долине это легко и быстро заметить. Да и в целом это нормально. Второй способ находить людей - иметь трек рекорд, про который людям интересно узнать (оттуда корпоративная работа в хорошей компании является прекрасным стартом).

Все блин. Других способов нет. Теплые интро не работают, если вы делаете «что никому не интересно» или нет трек рекорда. Признаться конечно себе сложно в этом.