Progresspunks

СEO @ Google Deepmind: Как достигнем AGI и причем тут динозавры? 😐

Посмотрел свежий подкаст с Demis Hassabis, СEO @ Google Deepmind 👀

И в первый раз предметно услышал, как AI планируют превращать в AGI ⚡

Тут кратко по порядку про наш путь в AGI-first мир:

1. Весь мир - это вычисления

🪷 Demis Hassabis, СEO @ Google Deepmind убежден, что весь наш мир - это вычисления. От космологических явлений до движения атомов

🪷Если весь мир = вычисления, то 100% можно изобрести AGI для вычислений любой сложности, включая cоздание новых научных открытий

🪷Создание новых гипотез в физике уровня Эйнштейна - это ключевой сигнал, что AGI появился на свет

2. Cегодняшние AI модели - это тупик

🪷Текущие AI (chatGPT, Grok, Gemini) не могут стать AGI как бы не увеличивали их мощность

🪷Все они построены на “трансформерной” модели нейросетей, которую изобрел Илья Суцкевер в Google Brain и потом перенес ее в OpenAI

🪷Для создания AGI нужна иная модель, которую пытаются изобрести OpenAI, Google, Китай и другие

3. Биология и эволюция - ключ к выходу из тупика и появлению AGI

🪷Если мир - это вычисления, то эволюция - это тоже вычисления

🪷Наш мир cмог превратиться из “Большого Взрыва” в одноклеточное существо на планете “Земля”, которое в итоге превратилось в любознательного тебя, читающего этот текст 😐

🪷А ~360 млн лет назад, эволюционную революцию совершил товарищ тикталик - первое существо выползшее из воды на сушу. И это изначально тоже было заложено в вычислениях эволюции

🪷Demis убежден, что если на нашей планете эволюции удалось выйти из воды на сушу через заложенные изначально вычисления, то и у его команды получится заложить “феномен” эволюции в алгоритмы и тогда появится AGI 👨‍💻

4. Первый пример эволюции AI: Шаг №37

🪷На самом деле AI уже давно умеет эволюционировать, но на микро ограниченных масштабах

🪷AlphaGo (AI от Гугла) на 37-ом шаге игры в Go против чемпиона мира Ли Седоля, сделал маневр, который никогда не делал человек

🪷Ли Седоль после этого 37-го шага ушел на 5 минут покурить и переварить произошедшее. Зрители все это время не понимали, был ли это сбой в логике AI или гениальнейший ход

🪷В итоге это оказалось гениальным ходом и примером эволюции примитивного на тот момент AI. Тут интересный фильм от Google по теме этого 37-го шага и в целом AlphaGo 🤔

🪷Цель Google Deepmind - создать алгоритм, который может эволюционировать не в рамках маленького поля игры, а в рамках познания всей Вселенной 😇

5. Квантовый мир - возможный барьер появления AGI

🪷Никто точно не знает природу “сознания” людей. “Сознание” - это продукт атомного мира или это квантовая сущность? 😳

🪷Roger Penrose, обладатель Нобелевской премии по физике считает, что “сознание” живет в квантовом мире. Тут классный подкаст с ним по этой теме 💯

🪷Если AGI необходимо “сознание” для эволюционного рывка уровня тикталика, то будут проблемы сделать этот рывок без квантового компьютера

6. Но есть шорткат создания AGI без квантового компьютера

🪷Даже если “сознание” - это квантовая сущность, то существует шорткат в виде синхронизации AI без квантового компьютера с человеческим сознанием, с помощью мозговых чипов от Neuralink. Это еще один сценарий рождения AGI

🪷Вообще то, что творит Илон Маск с Neuralink - это очень тихая революция всей человеческой цивилизации

🪷Тут недавнее демо их продукта и очень странно, что об этом не говорят из каждого утюга. Тот момент, когда фантастика из фильмов не то что за углом, а уже готовит чай на нашей кухне 😳😳😳

7. Бонус: как делать продукты в эпоху AI?

🪷Лучшее сейчас - упрощать все процессы, с помощью AI. Если сделал продукт, который упрощает благодаря AI что угодно, то уже неплохо

🪷Ты должен создавать не то, что технологически воможно уже сегодня, а что будет реализуемо минимум через год, учитывая траекторию развития AI

🪷Лучше быть очень tech product person с хорошей интуицией + любовью к тому, что делаешь + четким продуктовым видением на горизонте 6-12 месяцев 😎

@startupseurope 👀

=)) Угарно про антропоморфизацию chatgpt и прочих LLM (наделение неживых вещей человеческими чертами). Картинка - это из старших классов: правило перемножения матриц в линейной алгебре. А нейронки базируются на перемножении таких вот матриц, только гигантского размера (ну и статистике тоже)

Я много работаю с лидерами и в личной, и в групповой терапии
И я искренне восхищаюсь моими клиентами, для меня лидеры - это люди, для которых движение становится эквивалентом жизни

Я часто поддерживаю их смелые (а иногда и сумасшедшие) начинания, и переходы от “надо” к “хочу”, от “нельзя” к “можно”. И чувствую много радости за них и вместе с ними, когда они достигают своих ярких побед

С другой стороны я знаю, как фасад успешности часто прикрывает одиночество и разочарование, которое прячется не только от окружающих, но (иногда) даже от самих себя. Когда ты успешен, кому ты вообще можешь рассказать о своих страхах и сомнениях? О чувстве беспомощности в каких-то моментах. О том, что временами сам себе кажешься самозванцем. О том, что не получается. О том, что от ложного чувства беспомощности порой срываешься на семью или сотрудников, а потом чувствуешь вину за это

Я вас приглашаю поговорить о вас на индивидуальные сессии со мной, для записи пишите мне @julisache

И у нас с Витей будут осенняя группа Soulmates Superheroes (при оплате до 10 августа действует early bird цена)
Почему группы так круто работают с точки зрения нейробиологи я писала тут

75%? Опрос выше меня, прямо скажем, удивляет, я на автомате всегда вырубаю всё, а включаю, только если явно надо. Вы помогаете делать mesh-to-mesh сеть Apple не только для поиска чужих потерянных наушников и айфонов, но и слежки и за собой, и за людьми налепленными на их авто эппловскими Airtags - миллиард устройств Apple по миру непрерывно сканируют по bluetooth физический мир вокруг на 20-30 метров

**

Тут на основе НАСТОЛЬКО большой распространенности людей, кто не выключают wi-fi/bluetooth на своих телефонах, фигачат стартап в США, называется Radar - https://GoRadar.com, ставишь в магазине на каждые 100 кв м их девайс, и он и вас всегда в магазине по вашему bluetooth опознает, и по RFID меткам на товарах, и на AI через computer vision на видеокамерах начинает трекать абсолютно каждую единицу товаров, которую вы брали в руки, меряли, или понесли из магазина итп. 1 радар может хоть 10 тыс вещей трекать. А вы думали, что да подумаешь, Bluetooth иконка горит и всё )

Сделал Spencer Hewett - стипендиат Thiel Fellowship когда-то, а также их стартап проходил YCombinator. IP - несколько десятков патентов в США в процессе, хрен знает, что по миру и есть ли еще возможность замутить что-то такое за пределами США

В прошлом году выручка была $10 млн на пилотных клиентах типах Macy’s и Walmart. Видение (считают, все это - рынок на $1 трлн):
- autonomous retail
- autonomous checkout
- autonomous inventory management

Штат 70 человек. Подняли $140 млн, в основном как convertible debt.

**

Это как анти-Digital Vegan и как Technofeudalism, но которые теперь тащат в ОФФлайн. Вам не хватало государственных камер видеонаблюдения повсюду? Получайте перенос "лучших практик" онлайна в оффлайн

P.S.: А кто видел - что и как про вас слушает / записывает / снимает Alexa? Это же вообще девайс в private space и никогда НЕ выключающийся. Думаю, и спецслужбы Китая, и Израиля, и США уже давно Alexa хакнули и юзают для своих целей только в путь

Как оценить свой прогресс в психотерапии? Есть американская психолог Нэнси МакУильямс, узнала о ней в ходе учебы на психолога, и у нее есть очень глубокая книга "Психоаналитическая супервизия” - я перечитываю её время от времени. (Супервизия - это когда более опытные психологи регулярно консультируют других психологов, чтобы их собственные проекции/переносы/непроработанности не влияли на их искаженное восприятие клиентов и их эмоций, их процессов)

Она пишет, что вы можете обнаружить свой прогресс в психотерапии, если у вас:
- Появляется опыт безопасной привязанности
- Меняется видение людей и мира
- У вас растёт агентность
- Самооценка стабильнее и вы в целом лучше узнаете себя
- Ваши эмоции устойчивее
- Появляется рефлексия и про себя и про других
- Вырастает комфорт как и с самим собой, так и с другими
- У вас больше витальности, больше принятия/прощения
- Вырастает ваша способность любить, работать, играть

1. Опыт безопасной привязанности. Терапевт со временем становится для клиента той фигурой, рядом с которой вам становится лучше и спокойнее. Этот опыт затем перемещается внутрь, давая вам большую внутреннюю опору, которой, возможно, когда-то так не хватило

2. Растет постоянство себя и других. В ходе терапии мир, в котором в любой момент может произойти всё, что угодно, и в котором и я сам, и другие люди в любой момент могут трансформироваться в нечто зловещее, превращается в достаточно стабильный мир, где есть и причины, и следствия. У нас появляется способность видеть себя и других как сложных, но в целом последовательных существ, у которых есть как хорошие, так и плохие качества, но внезапные и катастрофические трансформации уже больше людям не свойственны

3. Чувство агентности и автономии. У нас постепенно возрастает ощущение, что я могу влиять на свою жизнь. Появляется понимание, что жизнь зависит от принимаемых нами решений, и что никто не может сказать, а как же нам правильно жить (и в т.ч., что психотерапевт не является источником магических решений и абсолютных знаний)

4. Рост реалистичности и устойчивости самооценки. Узнаешь свои сильные и слабые стороны, растет устойчивость не только к критике, но и к лести. Появляется способность извиняться и благодарить: «важно обращать внимание на то, может ли пациент искренне извиняться, благодарить, просить о том, что ему нужно, а не только лишь жаловаться»

5. Рост эмоциональной устойчивости, т.е. способности откликаться адаптивно даже в ситуации сильного стресса.
- Это и способность выносить сильные чувства ("толерантность к аффекту")
- И модулировать их ("регуляция аффекта")
- И умение выбирать способ их выражения - действуя уже адаптивно, а не деструктивно

6. Развитие рефлексии и ментализации, т.е. способность наблюдать за процессом своего мышления и думать о психических процессах других людей как отличающихся от нас. Если человек не способен ментализировать, то он будет всё время проецировать свои способы мыслить на других и трактовать их поведение однозначным способом

7. Больше комфорта как в совместности, так и одному. Психологическое здоровье включает способность и сотрудничать с другими людьми (но и защищать свои интересы тоже), и также способность переносить своё одиночество

8. Витальность. Рост любопытства, энтузиазма, увлечённости, обнаружение искренних эмоций, интересов и мотивов. Это такое приятное теплое чувство восторга и большего контакта со всем хорошим и удивительным в мире

9. Рост способности принимать, прощать, благодарить. Терапия – это не только про изменения, но и про принятие того, что нам никак не изменить. Если в терапии отгоревать невозможное (всякие невосполнимые утраты), то появляется шанс смириться с:
- Ограничениями - как своими, так и других людей, и мира в целом
- С совершёнными ошибками
В итоге появляется благодарность за то, что возможно в нашей жизни

10. У нас получается больше любить, работать, играть. Это все обычно вытекает из всех предыдущих пунктов нашего прогресса и исцеления

Психотерапия для меня стала когда-то, конечно, life changing experience. Ну типа как тебя словно врач хирург от смерти спас. Или, точнее, нейрохирург: ювелирно подкрутил и finetuned веса твоей биологической нейронки

Тут, конечно, шикарно декомпозируется как именно можно прямо в процессе видеть, понимать, оценивать свой личный прогресс в психотерапии. У меня эти координаты очень нелинейно проявлялись, у каждого по-разному будет, но жаль мне такой аккуратный уютный теплый framework не показали когда только вовсю еще проходил терапию

Peter Thiel поговорил 1 час с New York Times про что AI это как инет в 90ые, safetyism как антихрист, стагнацию, утрату веры Маска в Марс:

AI
- Думаю, это не тотальное изменение социума, а как интернет конца 90ых: дало создать некоторые большие компании, а еще 1% прироста ВВП в течении лет 10-15. Дало еще какой-то прирост производительности труда в экономике. Но я бы хотел более многомерного прогресса, и в других сферах тоже
- В Долине не умеют думать про последствия AI для макро вещей: дефицита бюджета, макроэкономики, оборонки и геополитики (повышает или понижает AI риск вторжения Китая на Тайвань) итп. Даже Elon Musk парится про дефицит бюджета, при этом предсказывает 1 млрд роботов через 10 лет. Да какие дефициты бюджета, если столько роботов появится? Или могут не появиться?
- Социум отвергает неортодоксальных людей. Но ведь слишком конформистский AI создаст еще больше woke’изма, еще больше just ОK контента, just ОK идей

Антиутопии
- Сингулярности итп это все хорошо, но никто не анализирует риск превращения мира в единое тоталитарное государство. Может и в виде коллективной Греты Тунберг: просто верят в экологизм больше, чем в мусульманский шариат или в китайский коммунизм

Смена взглядов
- Хрен знает, какое будущее у среднего класса (для меня средний класс - это кто верят, что их дети будут жить лучше, чем они), и как они отреагируют на стагнацию. У Рейгана был consumer capitalism, а Обамы low tax socialism - и то, и другое - оксюморон
- В 2012-2014 я дискутировал с Eric Schmidt, Mark Andreessen, Jim Bezos - они говорили, что “everything's going great”, но с тех пор и они признали стагнацию, и Silicon Valley в целом. А Mark Zuckerberg просто заигрался и его раскрутили по полной программе, он не какой-то там идейный демократ
- Сейчас moonshot’ами стали называть что-то фантастическое, что никогда не случится, а не как это было во времена лунной программы. Да нет, придется при Трампе заниматься дерегулированием стройки и начать строить обратно АЭС итд итп

Стагнация
- Стагнация пошла с 1970ых, когда вдруг испугались то ли ядерного апокалипсиса, то ли экологии - что дальше экономический рост якобы будет ценой перенаселения и эксплуатации планеты
- Стагнацию, она у нас за пределами айти отраслей, точно померять сложно. И внутри наук - e.g. теория струн это прогресс? И сравнивая разные науки друг с другом - мир стал запредельно гиперспециализирован в ущерб междисциплинарности. Но интуитивно: если человек как из фильма “Назад в будущее" из 1950г на машине времени попадет в 1980ые, он обалдеет, а если чел из 1985 года в 2015ый год - увидит всё то же самое, только все со смартфонами и всё. “Назад в будущее”, кстати, крутой фильм: там Biff Tannen показан словно как Трамп =)
- Или почти все бумеры верили, что точно изобретут лекарство от всех болезней, а спросите милленниалов - и вы увидите большую разницу. Где больше взятия на себя риска, скажем, в биотехе? E.g. Деменцию и альцгеймера - уже лет 50 ничего сделать не могут итп
- AI выглядит как хоть какой-то контрпример нашей затянувшейся стагнации

Маск с 2024 года больше не верит в Марс
- В 2024 он перестал верить в Марс как политический проект - туда ведь приедут вокистское правительство, вокистский AI итп. И Марс больше не ожидается им как по Роберту Хайнлайну было: "the moon as a libertarian paradise"

Антихрист
- Современный антихрист, получается, принял форму безостановочных разговоров об экзистенциальных рисках и концах света. Началось в 1945г, когда ученые, сделавшие ядерную бомбу, разогнали волну паники. Это вам не оптимизм 17-18 веков в стиле Francis Bacon. Baconian science прекратилась в 1970ых в Los Alamos
- Safetyism (желание нивелировать все возможные угрозы - и реальные, и воображаемые) захватил мир. FDA не только регулируют лекарства в США, но по факту - во всем мире. А Nuclear Regulatory Commission effectively regulates nuclear power plants all over the world. Итп
- Но ведь Бог не решает все в мире. Мы не строим жизнь чисто на жертвоприношениях богам. Антихрист не должен захватывать человеческую свободу

В декабре 2024 г. на сайте Министерства юстиции США утекли несколько страниц документа OpenAI про их продуктовую стратегию на 2025ый год: https://www.justice.gov/atr/media/1397596/dl

1. OpenAI видят себя как универсальный ассистент для всего

2. Мечтают стать новым окном в интернет вместо гугла

3. Боятся, что гугл/fb/итп могут обогнать их в распространении LLM до широких масс за счет свой гигантской дистрибуции

4. Физический девайс (это что стартап Jony Ive они недавно купили за $5 млрд) должен все время быть рядом и непрерывно слушать ваш контекст (на такое не готов, у меня даже Amazon Alexa девайса никогда не было )))

Док раскрыт, видимо, в рамках какого-то антимонопольного иска (не смог найти кто против кого: OpenAI челленджит гугл, или наоборот - гугл итп челленджат OpenAI)

Bloomberg Tech Summit 2025 в SF:

VC
- Rich Wong, партнер в Accel: Из 1000 сегодняшних юникорнов 20-25% помрут, 20-25% сделают IPO или их купят, а оставшаяся середина будет болтаться недостаточно большие для IPO и/или продолжать reality check. Во второй половине 2025 будет волна M&A
- Laela Sturdy, Google Ventures: "VC отрасль стала очень конкурентной сферой, с высокой концентрацией капитала“
- Sarah Guo (ранее Greylock, щас свой фонд Conviction): мега-фонды и sovereign wealth funds толпятся на private markets, но все равно можно выигрывать сделки, ведь это самые юные компании в Долине
- Jeffrey Katzenberg из DreamWorks сделал VC WndrCo: “Never let your memories be greater than your dreams”

AI
- CEO Google: кого-то увольняли, но найм инженеров продолжим. AI будет рядом, а не заменять людей, AGI пока не видать. Антимонопольные суды надеемся выиграть тк люди любят Google, их не заставляют )). Учиться прогать все равно нужно, это как игнорить умение читать в XIV веке
- Chatbot Arena сделали в Беркли для рисеча (миллионы людей оценивают лучше, чем любой dataset и benchmark) и выстрелило, и щас компания LMArena со $100 млн инвестиций (тк оч дорогое удовольствие) от a16z итп
- Perplexity: мы начинали как поисковик для себя, но думаем, что можем стать много-триллионным бизнесом как "accuracy layer for AI”. Гугл оч усложнили нам как партнериться с производителями Android-телефонов
- Chase Lochmiller, ко-фаундер стартапа стройки датацентров Crusoe, делают Stargate на $500 млрд для OpenAI Oracle итп на $ SoftBank, с газовыми генераторами (построили электростанцию за 200 дней). Людей не хватает для найма. По мере взлета chatGPT по США не хватало электроэнергии

Robotics
- Figure AI стоит $40 млрд. Рынок уплотняется. VC вложили в 2024 $6 млрд (+20% к 2023)
- CEO Agility Robotics стоят $1.7 млрд, китайцы снимают яркие видео, а наши роботы работают на фабриках

Military tech
- CTO Meta (и рулит Reality Labs) говорит, в Silicon Valley пересмотр отношения к оборонке: теперь туда идут, в тч и Meta + tech ваще-то вырос когда-то из инноваций военных
- Trae Stephens из Anduril: подняли $2.5 млрд по оценке $30 млрд ($1 млрд вложил Founders Fund Питера Тиля - самая крупная инвестиция в истории фонда). В Огайо завод строят для выпуска автономных вооружений. Поставили 300 вышек наблюдения на 1/3-1/2 границы США - super-human data для патрулей

Biology
- Jennifer Doudna, Innovative Genomics Institute: FDA двигает технологию редактирования генома Crispr, применение взлетит. Единственное, после таких прорывов инвесторы слишком оптимистичны, а сфера-то сложная, время нужно. Когда доедем до редактирования людей, поднимутся этические вопросы

B2C
- CEO Uber: бизнес Uber Eats уже равен по размеру Uber Taxi, 1/3 клиентов юзают оба сервиса (хотим чтобы 50%). Хотят партнериться с self-driving cars, а не сами создать его (оч. дорого) - 12 партнерств (но Tesla и Waymo сами хотят). Есть $5 млрд инвестиций в разные компании - по мере выходов будут класть в свою self-driving ecosystem вокруг их network. Может, замутим свой stablecoin
- Тренажерная компания Peloton думают как заюзать AI (у всех же разные baselines организма), реструктуризация

Devices
- Samsung: Верим в носимые устройства как предикторы что и как будет со здоровьем людей

Auto
- Rivian CEO RJ Scaringe говорит адаптация к тарифам Трампа сложно, может и годы занять. Безос как инвестор нас много консультировал

Прочее
- Новый мэр SF Daniel Lurie (когда-то сделал НКО Tipping Point) призывает богачей инвестировать в реновацию потрепанного города + ждет бизнесы обратно (разлетелись по стране после пандемии). Есть риск, что Трамп отберет у города федеральное финансирование

Вдогонку к этой безразмерной презентации Mary Meeker можно еще пролистнуть легкую (в 6 раз меньше слайдов, а каждый слайд в разы меньше текста) от Benedict Evans. У него проглядывается некоторый скептицизм

Электроавтомобили новую value не создают, пока ее чисто перераспределяют - отгрызают долю рынка у обычных автомобилей

Сам рынок авто в целом странно болтается на +/- том же уровне уже 15 лет подряд, словно население и не росло, словно душевой ВВП и не рос в мире..

9. Гуманоидные роботы

- Перераспределение: отберут что-то в производстве (щас 20% людей в США в этом) и много отберут в услугах (тк в мире старение населения)

- Как в агросекторе 100 лет назад было 40% людей, а щас 2%

8. GenAI/LLM

- Это тоже пока перераспределение value

- Есть 3 вида AI:
1. Super retrieval
2. RL
3. Physical world

- GenAI это тип 1 - retrieval/извлечение. Раньше гугл делал, а LLM стали делать это стыкуя фразы и параграфы между собой, поэтому ощущение магии

- LLM весят 4-32 гб (Deepseek). Сжатие данных в веса нейронок из сотен терабайт датасетов, e.g. Fb заюзал 80Tb книг и научных журналов с торрентов (судебный иск.). Картинки и видео - тоже тыринг чужого

- Мы во 2-ой великой приватизации данных бигтехами (1-ая была с просто customer data в инетах)? И в попытке замочить копирайты?

- Нейронки - это как архиватор, просто с сильной потерей качества. Подвид алгоритма компрессии. Плата за это - оч большой compute (и сжать, и разжать) по сравнению с losless и с компрессией с потерей качества, где КПД меньше

- Сжатие идет через адскую декомпозицию на фичи объектов, которые наш мозг воспринимает как сложные и осмысленные (e.g. текст ответа, e.g. визуальные образы)

7. Аппы

- До Uber рынок такси в США и мире любили регулировать: в New York одна лицензия на пике стоила $1 млн, в сумме это десятки млрд $, но никто не выводил такси на public markets: Uber P/E = 16

- Tinder догнал и перегнал ранних веб-игроков своим новым UI/UX

6. Хостеры (AWS, Azure, Google Cloud)

- Как и мобильные операторы - чисто дистрибуция по миру чужого value creation (хостеры тратили на капитальные инвестиции 25-50% выручки, это, в основном, шло Intel, AMD, Nvidia, Cisco и Broadcom)

- Сейчас у нас эра хайпа, они вваливают в data centers по $80-100 млрд в этом году (при выручке в 2024: AWS $110 млрд, Azure 100, Google Cloud $50)

- GPU живут 2-3 года, а рост выручки был в 2023-2024 15-30% (не такой быстрый) - верят, что в своих продуктах заюзают по мере внедрения AI?