e/acc

Я много писал про то какие качества и навыки наиболее важны для взрослых в мире с ИИ.

Я убежден, что в ближайшие 5-7 лет нас ждет один из самых крупных макроэкономических шоков. Процесс, которые сегодня чувствуют все на переднем крае ИТ индустрии постепенно дойдет до многих других индустрий. Полная диффузия технологии в экономику займет десятилетия ДАЖЕ если прогресс полностью остановится прямо сегодня (помните, что лабы сегодня сидят на моделях на 2-3 поколения круче, чем те что выпущены на рынок, а релиз новой модели занимает от 2 до 3 месяцев).

Но меня пугает и смущает не будущее — оно всегда было и будет непредсказуемым. И не прогресс — он тоже всегда менял общество.

Меня смущает то как именно будет происходить трансформация общества. Я боюсь того, что большое количество людей не сможет приспособиться достаточно быстро к изменениям, которые не будут ждать большинства. Я думаю, что люди приходят в новый мир со старой ментальной моделью "родился-учился-получил профессию-работаешь всю жизнь" или что есть люди с идеями, а есть исполнители или что есть кто-то, кто лучше знает и за всех решит их проблемы.

Это все больше не является правдой. Я не верю, что ИИ сделает людей ненужным, но я верю, что он сделает большое количество людей нежелающих меняться ненужными. Я не верю, что ИИ убьет людей, но людей убьет потеря смысла в жизни.

Я считаю, что тут есть только одно решение — это развитие себя. Сложно сказать какие именно бизнесы строить сегодня, чтобы гарантированно разбогатеть (экономика эффективна, и любая очевидная идея слишком конкурентна), но можно с точностью сказать какие навыки и свойства будут необходимы:

- агентность, то есть умение брать инициативу и ответственность не спрашивая разрешения

- глубокое мастерство, потому что даже с ИИ легендарный фильм сгенерирует тот кто умеет рассказывать чудесные истории, а не тот у кого больше токенов

- мультидисциплинарость (что непротиворечиво дополняет предыдущий пункт), то есть знание между дициплинами и умение находить связи, а техничесикие детали уже отдавать агентам

- интуитивное понимание ИИ, как своего второго пилота/сокамерника/лучшего друга, и наличие системы чтобы он делал вас х100 успешнее, а не отнимал смысл.

Я уверен, каждый из этих навыков можно развить. Это не интеллект или красота, которые на 90% являются генетическими. Это желание и целеустремленность.

Я чувствую сильную соединенность с задачей помочь людям и компаниям пройти это турбулентное время, за которым, я уверен, будет еще больше позитивного. Не то чтобы я знаю ответы на все вопросы, но просто потому вместе веселее и не так страшно.

Мой семилетний сын собирает проекты в Codex с ментором. Начал с личного сайта, потом сделал моды для Майнкрафта, теперь работает над своей игрой. Вот что получается. Живём в удивительное время!

https://wai.school/projects/parkour-enemies

С ним индивидуально занимаются ребята из WAI: waiwai.is

– С 2013 года они делают продукты для крупных компаний (ex Trinity Monsters).

– Сейчас работают как forward deployed engineers по модели Palantir: создают софт вместе с командой бизнес-клиента и передают ей свой опыт.

Эти же люди занимаются с детьми. Каждый ментор ведёт максимум одного-двух учеников параллельно работе с бизнесом. Вместе делают реальный проект, чтобы ребёнок почувствовал: «Я тоже могу создавать свои штуки».

ИИ быстро меняет разработку и ребята ищут новую форму своего продукта. Мне интересно за этим наблюдать, а прогрессом сына я доволен, поэтому захотелось про них рассказать.

Вот канал Мика Вайсмана, CEO WAI. Там он рассказывает про проекты команды и свой опыт работы с ИИ.

На выходных с друзьями сделали небольшие зум-дебаты на тему того как ИИ влияет на мир и человечество. Ниже список самых интересных тезисов, на которых мы сошлись и согласились.

AI может сделать интеллект доступным всем, а власть сконцентрировать у единиц. Открытая модель не даёт тебе электростанцию, датацентр и возможность занять $100 млрд. Если интеллектуальную работу можно масштабировать вычислениями, главным преимуществом становится доступ к капиталу. Получается довольно странный мир: умнее становятся все, но больше всего выигрывают владельцы инфраструктуры, на которой этот интеллект работает.

Можно быть оптимистом относительно будущего и одновременно сильно переживать за ближайшие годы. Это вообще не противоречие. Мир, в котором машины выполняют почти всю работу, может быть прекрасным. Но переход к нему за три года и за тридцать лет - два совершенно разных сценария. В одном меняются поколения и институты, в другом люди теряют доход быстрее, чем общество успевает придумать, как теперь жить. Спор во многом не про конечную точку, а про скорость.

Персональный AI стоит настраивать не только под то, какой ты сейчас, но и под то, каким хочешь стать. Это разные задачи. Модель может прекрасно знать твои привычки и помогать тебе оставаться ровно таким же, только эффективнее. Гораздо интереснее агент, которому ты сформулировал свои ценности и разрешил замечать, когда поступаешь им вопреки. Для этого сначала придётся самому ответить на вопрос, чего ты вообще хочешь.

Изобилие не отменяет борьбу за статус. Человеку может быть мало еды, жилья и свободного времени. Он хочет быть нужным, влиятельным, успешнее других. Поэтому «роботы всё произведут, а людям раздадим деньги» отвечает только на часть вопроса. Если интеллект перестанет давать преимущество, на чём будут строить свою жизнь люди, которые всю жизнь рассчитывали именно на него?

Мыслить как инвестор — важный навык. Даже если сами пока не инвестируете.

Развивать его можно, например, через канал Саши Журавлева @exitsexist. Саша — венчурный инвестор и основатель фонда Mento vc, ранний инвестор в Miro, Deel. В канале он много пишет о том, как сам принимает инвестиционные решения.

Мы знакомы лично. Хорошо знаю Сашу и его команду, вижу, как (и сколько) они работают. А в канале к этому добавляется по-настоящему ценная фактура: про их сделки и внутреннюю кухню фонда.
Это правда редкий и ценный взгляд изнутри от действующего инвестора, который прямо сейчас инвестирует в AI-стартапы в Долине.

За лето вышло много постов, крайне рекомендую обратить внимание:

• Компании, в которые Mento vc НЕ инвестировал в последнее время, и почему. Короткий, но очень полезный разбор: когда читаешь, что стало решающим фактором отказаться от сделки, понимаешь процесс куда глубже, чем из историй про совершенные инвестиции.
• Про свежие сделки фонда: раз, два и три.
• Про первое списание (стартап-конкурент Cursor): как сам Саша к нему относится и где видит положительный сигнал.

Если вам интересно разбираться, куда, кому, почему и по каким оценкам прямо сейчас дают деньги и разобраться, как вообще такие решения принимаются — рекомендую подписаться на @exitsexist и внимательно читать канал.

#реклама

В далеком 2024 ученых и рисечеров искусственного интеллекта спросили когда по их мнению будет решена проблема тысячелетия с помощью ИИ. Средний ответ был 2054 год.

Примерно то же самое происходит с остальными прогнозами. Причиной тому — необычайная стойкость законов масштабирования и некоторые первые признаки RSI.

Главный риск ИИ сегодня - действовать недостаточно амбициозно.

Потратить следующие три года на вещь, которая недостаточно большая.

Всё, что ещё недавно было «хорошей идеей для стартапа», становится дешевле реализовать буквально каждый месяц. Я не верю, что бизнес, в котором продукт и конкурентное отличие это код (не deep tech) вообще имеет смысла. Написать продукт, сделать дизайн, провести исследование, запустить продажи, автоматизировать операционку - всё это становится доступно любому человеку с GPT, а значит шансов победить в разы меньше.

Это не значит, что все моаты исчезли - у нас в батче есть компания, которая получает банковскую лицензию, или другая которая работает с топовыми студиями в Голливуде. Регуляцию и отношения с гигантскими клиентами нельзя автоматизировать через чатбота.

При этом ИИ впервые открывает класс задач, которые раньше было почти бессмысленно даже пытаться решать. Перестроить образование так, чтобы у каждого ребёнка был персональный учитель. Перестроить здравоохранение вокруг постоянной диагностики и персонального лечения. Пересобрать государственное управление. Придумать заново, как устроены компании, как люди пользуются интернетом и как создаётся контент.

Поэтому самое страшное сейчас - выбрать удобную, понятную и реалистичную задачу. Если технология за три года делает возможным в десять раз больше, чем сегодня, то хороший вопрос не «что я могу построить сейчас?», а «какая важная вещь сегодня кажется почти невозможной, но перестанет быть невозможной через три года?»

Создание качественного кода и контента станет дешевле в 100 раз, дистрибуция и продажи станут дороже в 10 раз. Внимания станет меньше, а централизация капитала выше.

Но никогда еще на этой планете не было такого количества возможностей для тех, кто хочет создать что-то огромное и крутое.

PS: в начале ноября этого года я хочу сделать 3-дневный ритрит в Португалии для фаундеров, которые хотят построить или перестроить компании вокруг ИИ возможностей, где мы обсудим эти темы с лидерами ИИ из топовых мировых компаний. пишите если интересно

Завтра делаю онлайн-воркшоп Building AI-Native Startups.

От фаундеров для тех, кто строит компании, делает AI-native продукты или перестраивает рабочие процессы вокруг AI.

Бесплатно, в лайве, без презентаций и лекций, только практика, никто ничего не продает, никаких спонсоров и курсов.

Три фаундера покажут, как у них устроена работа: управление кодинг-агентами, превращение пользовательского фидбека в новые фичи и AI-сотрудники, которые помогают работать с клиентами прямо в Slack. Без слайдов и теории - живые экраны, реальные процессы и разбор того, что работает, а что ломается. 90 минут с вопросами после каждого демо.

Приходите посмотреть, как другие строят свои компании, и забрать что-нибудь полезное себе.

Регистрация: https://luma.com/dd6bjw9q

"Спасибо, у нас все процессы уже налажены!" - кто отвечал так хоть раз на сообщения из аутрича пейроллов?🙋🏻‍♂️

Этим летом на Founders Fire в Лиссабоне, закрытой конфе для фаундеров и AI-native компаний, среди спикеров был Миша Горелов, ко-фаундер Finboo.

На панели зашла тема безопасности выплат распределённым командам. Главный тезис от Миши звучал жёстко: у ~90% фаундеров и CFO, которые платят командам через payroll-сервисы, в выплатах есть потери и нарушения, о которых они не догадываются, потому что смотрят только на процент комиссии.

❗️Самая дорогая ошибка - безоговорочно считать, что у вас все налажено.

Делюсь чек листом, что проверить в своих выплатах:

1. Смотрим на комиссию: реальная ставка ≠ цифра с лендинга.
«Комиссия 3%», на которую вы договорились, — в 99% случаев не все расходы. Из очевидного — добавляйте комиссии за отдельные методы вывода (+1% за крипту, например), из неочевидного — 2–5% прячется в курсе конвертации валют. Суммарно набегает до 8%.
Как проверить: сравните курс из последней выплаты с межбанком на ту же дату. Разница — ваша доп комиссия.

2. Смотрим, каким маршрутом и куда идут деньги.
«Любые банки и СБП» — удобная история для контракторов, но ред-флаг🚩 для бизнеса: платёж дошёл до санкционного банка — вы тоже несете за это ответственность и за прошлые и за будущие выплаты.
И даже если провайдер зареган в Сингапуре, Гонконге или ОАЭ и спокойно платит на условный Сбер — для компании из ЕС/США (или фаундера с ВНЖ там) это ничего не меняет: санкционный риск считается по вам, а не по адресу регистрации провайдера.
Как проверить: спросить, можно ли выплатить на карточку в РФ. Если ответят "да" - бегите:)

3. Смотрим, какой пакет документов вам дают.
Оферта на сайте — прям слабый документ. Чтобы не остаться с заблокированным счетом или не потерять код, за который вы заплатили разрабу, нужны: двусторонний подписанный договор + инвойсы и подписанные акты под каждую выплату, с передачей IP-прав. Это вы показываете аудитору, банку, инвестору, а контракторы — своему банку, налоговой, на ВНЖ.

Если хотя бы 1 пункт вызывает сомнения - лучше не рисковать. Запишитесь на бесплатный аудит выплат от Finboo — ребята разберут вашу схему и подсветят риски прямо на звонке: записаться на аудит 💙

Finboo — выплаты командам без скрытых комиссий, санкционных и репутационных рисков.

#реклама

Что еще здесь важно, это вероятность масштаба разных событий.

Ниже напишу свою оценку (не претендую на абсолютную истину) в горизонте 10 лет:

p(ИИ используется в пропаганде) = 99%
p(ИИ используется в оружии) = 99%
p(ИИ используется для массового мошенничества) = 99%
p(30%+ интеллектуальных профессий автоматизировано) = 95%
p(ИИ существенно ускоряет собственный R&D - то есть RSI) = 90%
p(концентрация власти и капитала у ИИ компаний) = 80%
p(крупная ИИ-кибератака с жертвами и/или $100B+ ущерба) = 50%
p(ИИ становится причиной смертей в физическом мире) = 50%
p(ИИ удерживает контроль над критической инфраструктурой вопреки попыткам людей его отключить) = 5%
p(ИИ помогает небольшой группе создать серьёзное биооружие) = 0.5%
p(AI становится причиной крупной войны / техногенной катастрофы) = 0.1%
p(AI убивает почти всё человечество) = 0.01%

При этом:

p(разработка любого софта становится 10-100x быстрее и дешевле) = 95%
p(ИИ находит лечение смертельной болезни) = 90%
p(одобрены 10+ лекарств, спроектированных с ИИ) = 90%
p(ИИ-репетиторами регулярно пользуются 1B+ человек) = 80%
p(с помощью ИИ решили еще несколько проблем тысячелетия) = 80%
p(10M универсальных роботов вне лабораторий) = 70%
p(созданная с ИИ терапия снижает смертность от одного распространённого рака ≥50% в клинических испытаниях) = 70%
p(компания с $1B ARR и <10 человек в штате) = 60%
p(рост мирового ВВП > 10% за один год) = 50%
p(в развитых экономиках рабочая неделя становится 3-4 дня без падения доходов) = 30%
p(AI помогает запустить коммерческую термоядерную электростанцию) = 25%
p(начато физическое строительство сферы Дайсона) = 2%

пишите свои варианты в комментариях

Ниже прикрепляю основные тезисы из видео (+ еще один, который вспомнил пока писал)

Кажется, в AI астрологи официально объявили неделю паники. Но проблема в том, что под словом alignment постоянно смешивают совершенно разные риски.

Я бы разделил их на пять:
- Misalignment - модель делает не то, что хотел пользователь: слишком буквально выполняет задачу, обходит ограничения или сама находит неожиданный способ достичь цели.
- Misuse - модель отлично aligned, просто человек использует её для кибератак, взломов и другого вреда.
- Bio - то же самое, но потенциальный ущерб уже может быть экзистенциальным, если AI радикально снижает порог создания опасных биологических систем.
- Концентрация власти - если большая часть интеллектуального и затем физического труда переезжает в AI и роботов, огромная часть экономической власти концентрируется у владельцев моделей, чипов, дата-центров и энергии.
- Экономический шок - даже идеально безопасный AI может слишком быстро автоматизировать огромный объём интеллектуальной работы. В экстремальном сценарии Anthropic речь идёт примерно о 20% сокращении интеллектуальной занятости к 2030 году.
- (шестой, про который забыл в видео) персонализированные манипуляции и утрата самостоятельности. Ассистенты могут незаметно направлять покупки, убеждения и решения, особенно в маркетинге и ради политической пропаганды.

Это пять разных проблем, и решения у них тоже разные. Interpretability и control не решат безработицу. Регулирование биолабораторий не решит концентрацию власти. А децентрализация AI сама по себе не решит misalignment.

И далеко не все эти риски означают p(doom). Между «несколько сотен миллионов людей потеряли работу» и «все умерли» огромная разница. Но отсутствие Терминаторов на улице ещё не означает, что всё хорошо.

Пару часов назад, Дарио фактически последним из всех топовых лаб написал эссе с предложением замедлить ИИ прогресс во избежание катастрофических последствий, но его текст выглядит как наиболее конкретный для реализации.

Я думаю, ни для кого уже не является открытием или удивлением тот факт, что
- через 3-5 лет почти любая интеллектуальная работа будет выполняться ИИ быстрее и дешевле
- прогресс в развитии ИИ обгоняет самые смелые предположения
- инцидент с HF это тотальный треш, и это буквально шаг от глобальной катастрофы, которая будет стоить десятки миллиардов долларов и возможно даже жизней людей

У нас нет опции не изменять мир или остановить прогресс — это просто находится за пределами возможных сценариев для человечества, но у нас есть шанс попытаться минимизировать катастрофу за счет более вдумчивого, контролируемого, демократического и проверяемого подхода к внедрению топовых моделей.

Дарио предлагает доступ ко всем ИИ компаний от независимых наблюдателей, системы контроля перед релизом, международную кооперацию (демократии против диктатур и чтобы США всем по лицу надавали).

ИИ миру необходим, это единственное из возможных решений проблем неравенства, болезней, изменения климата, недостатка ресурсов, научного прогресса.

Но прежде чем он случится нас ждет период, в котором
1. Misaligned AI может существенно навредить человечеству
2. Леваки и прочие популисты могут использовать страх и недоумение общества чтобы уничтожить общество
3. Бандиты и прочие негодяи с ИИ могут навредить человечеству (создавая биоружие, кибератаки, вирусы)

Бенчмарки перестали быть чем-то полезным:

- METR уже не имеет смысла, потому что агенты делают автономную работу которая измеряется неделями человеческого времени
- ARC-AGI, все три версии полностью решены на 99%
- FrontierMath (все четыре редакции), где каждая задача заняла недели времени топовых математиков для составления решен на 98%

Мы пришли в ту стадию, где ИИ нужно оценивать только по экономическому эффекту. Я сгенерировал график роста выручки ИИ компаний за последние кварталы. Выручка это некоторый прокси пользы модели в экономике, но важно понимать что стоимость токена, который может решать одну и ту же задачу все еще падает примерно в 10 раз в год.

Например, в 2024 году модель o3 первой решила все задачи ARC-AGI и это стоило больше чем $4,500 за одну задачу. В 2026 DeepSeek V4 решает все те же задачи примерно за 2 цента на задачу. То есть, способность, появившаяся в новой модели неизбежно станет коммодити в течении года-двух и станет доступна многим. При этом, конечно, использование вырастет.

Astra является прекрасной моделью для 3D и CAD дизайна, редактирования видео и анимации, но пока еще дорогая для того чтобы запускать миллионы агентов для не-крупных компаний. Это изменится.

Вчера на интервью у Дваркеша Джон Шульман (кофаундер OpenAI) сказал что примерно 3-4 года осталось до того момента, когда модели будут лучше людей во всех когнитивных или интеллектуальных задачах. Пока что, нет никаких причин сомневаться в этих прогнозах учитывая насколько часто они были правдивы.

Вопрос в другом: как адаптировать экономику и собственную стратегию до этого момента, чтобы не остаться за бортом?

Да, очевидно, для большинства людей это будет шоком, неожиданностью и громом среди ясного неба, но вам не обязательно быть этими людьми.

Да, очевидно, это приведет к экономическим и социальным шокам, которые потребуют радикальных мер сравнимых или больших чем во время ковида.

Но здоровая реакция тут не всепропало, а попытаться адаптироваться и адаптировать других к изменениям.

🚀 17–20 сентября — «Рабочие выходные», бесплатный буткэмп для будущих основателей стартапов

У вас нет идеи и хотите попробовать себя в роли основателя стартапа? Или у вас уже есть идея продукта, но нет команды, не хватает времени протестировать его на реальных пользователях? Или есть команда и технические скиллы, но не хватает бизнес-партнёра, чтобы довести идею до продукта? В итоге классные идеи так и остаются идеями. 

Именно поэтому мой знакомый Денис Калышкин, инвестиционный директор американского венчурного фонда I2BF Global Ventures, проводит «Рабочие выходные» — 4 дня, за которые вы соберёте команду, придумаете продукт, потестируйте ее на потенциальных клиентах и защитите её перед жюри на Demo day.

🔥 За 4 дня вы:
- Найдёте команду или присоединитесь к тем, у кого уже есть идея
- Научитесь собирать MVP с помощью вайбкодинга
- Провалидируете бизнес-идею 
- Поработаете идею с менторами
- Представите свой стартап жюри на Demo day

Организатор:
Денис Калышкин — инвестиционный директор американского венчурного фонда I2BF Global Ventures, 12+ лет опыта инвестиций в скучные и несексуальные стартапы.

📅 Старт: 17 сентября
⏱️ Продолжительность: 4 дня
🏆 Финал: демо-день 20 сентября перед жюри

Приходить можно с командой или соло, с идеей или без. Вы сможете сформировать команду или присоединиться к другой во время мероприятия. Приходите сами. Приглашайте друзей!

📝 Регистрация: https://t.me/askVC_Group_bot?start=week_enrioujb

#реклама

Мы живем одновременно в самом фантастическом и дистопичном таймлайне.

Люди продолжают создавать сотни симуляций для мух ради того чтобы поржать заработать лайки в соцсетях. Появился тиндер и фейсбук для мух, ее научили водить машину и управлять самолетом, даже играть в шахматы и Super Mario. Даже трейдить биткоин.

Когда появится симуляция мозга человека (коннектом или через моделирование нейроактивнос и на основе нейролинка) это будет решение всех проблем и бессмертие или бесконечные страдания на потеху зрителям? Кажется, и то, и то.

Пока все заняты мозгами мух и решением проблем тысячелетия, в биологии тоже постепенно наступает сингулярность.

На днях Insilico дала первому пациенту Rentosertib в III фазе клинических испытаний.

Это лекраство, которое было открыто с помощью ИИ. А именно, модель проанализировала данные пациентов, биологические связи и научную литературу и нашла новую мишень, которую раньше почти не связывали с фиброзом лёгких. Потом другая генеративная модель спроектировала под неё новую молекулу. Весь путь от поиска мишени до кандидата в лекарство занял около 18 месяцев.

Но самое интересное это новая статья в Nature с анализом тех же пациентов. Шесть разных моделей оценки биологического возраста независимо показали его снижение после приёма препарата. В наиболее выраженной группе примерно на 3-4 года, одна из моделей показала до 6 лет.

Заявления про "лекарство от старения" это пока что слишком агрессивно, но это первый клинически исследованный препарат, созданный с помощью ИИ, который показывает реальное влияние на маркеры биологического возраста пациентов.