Разговор с футурологом

Был вчера на Forbes Club в вышке и передавал смыслы прямо в молодое поколение.

@yusufovruslan

Еду с РБК, читаю новость: британский король Карл III встретится с руководителями Nvidia, OpenAI, Google DeepMind и Anthropic, тема — как разрабатывать и внедрять искусственный интеллект «на благо человечества».

Ой, не могу. Еще одно заседание совета директоров человечества — на этот раз под королевским патронажем и во дворце.

Сегодняшних эфир про ИИ и судьбы мира здесь: https://tv.rbc.ru/archive/den/6aa7b4d62ae596434f7ceefb

@yusufovruslan

Лейтмотив лирики Лермонтова лидеров крупнейших ИИ-бигтехов: пожалуйста, умоляем вас, остановите развитие ИИ, надо срочно замедляться, — щедро посыпаемый новостями об увольнениях из лабораторий исследователей по причине «я больше морально не могу тут работать» даже с заявлениями «я бы отдал все свои акции, если бы смог это остановить!» и сдабриваемый прогнозами об уничтожении человечества с вероятностью больше 10%.

Разумеется, им никто не верит, и на поверхности здесь комбинация нескольких стимулов: это пиар — «наши модели такие мощные, что мы сами их боимся»; разгон нарратива под привлечение новых денег — «наши модели такие страшные, что финансирование нужно увеличить»; и подстилание соломки под будущие бунты плебеев с вилами против головных офисов — «это не мы плохие, мы пытались предупредить весь мир об опасности».

Пока продвинутая часть этого мира обменивается письмами в поддержку замедления ИИ, которые от лидеров ИИ-разработки выглядят как странная мольба «пожалуйста, остановите нас», а наблюдатели на реддите недоумевают, к кому именно эти техношаманы обращаются, параллельно выходят новости об использовании ИИ «хорошими» военными из США, «плохими» rebels из неугодных режимов — и русскими, разумеется, для шпионажа и пропаганды.

Добровольно тормозить невыгодно никому. Если Anthropic остановится, OpenAI, Google, китайские лаборатории или военные программы могут продолжить движение. Возникает классическая дилемма заключенного: всем вместе снизить риски выгодно, но каждому отдельно выгоднее ускоряться. Так что настоящий смысл призывов к «замедлению» — это попытка сделать замедление управляемым, причем желательно так, чтобы правила одновременно соблюдали все конкуренты.

А так как конкуренты соблюдать правила не будут, или чего хуже, придумают собственные правила — как Китай для БРИКС+, то дальше появляется замечательный повод для «принуждения к миру» в рамках демократических бомбардировок во имя спасения человечества, тут даже пробирку в ООН приносить не надо, достаточно пресс-релиза — этот сценарий уже описан в моей книге.

Получится замедлить — выиграют очков в глазах общественности и спасут человечество от самих себя. Не получится — соберут денег на ускорение прогресса, чтобы обгонять китайцев и останавливать русских. А выживание человечества — это, знаете ли, не айтишная тема, мы старались, как могли — вот письма даже есть. Можно этими письмами будет обложиться и погибать достойно, высокоморальным человеком.

@yusufovruslan

Какая интересная развилка!

Если ИИ будет успешен, он заменит людей, и они потеряют работу.

Если ИИ-пузырь лопнет, фондовый рынок грохнется и всех уволят.

@yusufovruslan

Мы спорим не о купальниках. Или все же о купальниках?

В публичном поле снова обсуждают учителей, которые выкладывают фотографии в купальниках.

Одна позиция: учитель — это наставник, и его публичный образ должен соответствовать высоким моральным требованиям. Вторая: учитель имеет право на личную жизнь, и фото с пляжа само по себе ничего не говорит о качестве преподавания, нравственности или способности быть примером для детей.

Если залезть под купальник чуть глубже, то мы можем предположить, что настоящий спор — он о границах между личной жизнью и профессиональной ролью, о свободе и ответственности, о моральном авторитете и внешней демонстрации приличия, о защите детей и контроле над взрослыми, наконец, о балансе между общественным доверием и праве на индивидуальность.

Обе стороны призывают ценностям: для одной важны воспитание, моральный пример, духовность и единая культурная рамка; для второй — достоинство, свобода, автономия и оценка человека по его реальным поступкам, а не по внешнему образу.

Поэтому спор быстро заходит в тупик: каждая сторона защищает важное благо, но обсуждает его через крайний пример. В результате разговор превращается в соревнование личных вкусов: что считать «откровенным», что считать «приличным», какой образ жизни считать правильным.

Как решать подобные стратегические вопросы?

Первый шаг — отделить факт от оценки и понять благо, которому причиняется вред. При этом моральное раздражение еще не доказывает общественного вреда.

1️⃣ Факт: учитель разместил фотографию в купальнике.

2️⃣ Оценка: это неприлично, безнравственно или несовместимо с профессией.

3️⃣ Гипотеза: такая публикация может подрывать доверие к учителю или причинять вред детям.

Любое решение возможно только после проверки последней гипотезы.

Если мы хотим думать за пределами пиара и популизма и сформировать устойчивое правило, придется подумать глубже внешней формы купальника. Реально важный вопрос звучит так:

Как общество должно защищать детей, профессиональные границы и доверие к институту образования, не превращая моральную оценку в произвольный контроль личной жизни?

Кейс про купальники — частный, но он заставляет нас идти дальше и думать об основаниях критериев «желаемого» будущего: достаточно ли просто фиксировать общественный запрос, если сам этот запрос может быть результатом деградации среды?

В пророческом фильме «Идиократия» общество смотрит фильм про задницу не потому, что оно осознанно выбрало такую культуру, а потому что постепенно разучилось хотеть и воспринимать что-то другое. Общественное мнение необходимо учитывать, но оно не может автоматически становиться проектом будущего. Приведу другой пример: общество может хотеть ничего не делать и бесплатно получать деньги, но это не означает, что именно так и следует строить будущее.

Наконец, в кейсе про купальники важен вопрос о качестве самого общества.

Способно ли оно различать факт и интерпретацию? Отличать вред от раздражения? Сохранять доверие без требования единого образа жизни? Защищать детей без лишения взрослых достоинства и автономии?

Будущее потребует именно этой способности, потому что частная жизнь будет становиться еще более видимой — а значит, нужно научиться различать реальное нарушение границ и несогласие с чужим образом жизни. Иначе мы будем вынуждены запрещать людям быть разными.

Моральному авторитету института образования придется опираться на компетентность, честность, ответственность, уважение к детям и способность отвечать за реальные последствия своих действий.

Ох, как это сложно. Возвращаемся к первоначальной посылке: давайте лучше обсудим форму купальников!

@yusufovruslan

Сегодня начинается мой курс по футурологии в МГУ.

Я пока не готовился — пойду посмотрю, готовы ли студенты, и там уж решим!

@yusufovruslan

🤖 Цифровой перегруз

Постоянное присутствие технологий в жизни человека уже влияет на способность концентрироваться и воспринимать информацию. О том, какие последствия может иметь неконтролируемый поток цифрового контента, в подкасте «Наши слоны» рассказал футуролог Руслан Юсуфов:

У человека уже сейчас диагностируются ментальные проблемы, потому что последние 20 лет этого абсолютно неконтролируемого потока в голову не прошли даром. Мы видим сокращение внимания, мы видим неспособность концентрироваться. К сожалению, мы часто проходим этот путь так: сначала всё отпускаем, проходит социальный эксперимент, потом измеряем последствия и говорим: давайте резко запретим телефоны в школе. Дети уже воспитаны в ситуации, когда телефон — это третья рука, и, может быть, нужен был мягкий переход. Но у нас обычно всё происходит через резкое действие.

Цифровая среда меняет привычки человека и требует новых подходов к сохранению концентрации в условиях постоянного потока контента.

Полилог. Экспертиза | Подкаст | МАХ

🧐 Кого сотрудники будут ненавидеть меньше: плохого CEO или плохой ИИ?

В предыдущем посте я писал о том, что отношения кандидата и работодателя все чаще происходят через цифровых посредников: агент кандидата оптимизирует его резюме, агент работодателя оценивает соответствие вакансии, а люди встречаются только после того, как их прокси провели первичные переговоры.

Теперь появился следующий закономерный элемент этой конструкции — OpenExecutive — система с открытым исходным кодом, имитирующая исполнительную команду компании.

Внутри нее работают восемь специализированных агентов: стратегический директор, CFO, COO, HRD, юрист, директора по маркетингу, продукту и коммуникациям. Запрос сначала получает исполнительный оркестратор, затем к нему подключаются профильные агенты, изучают документы компании и предлагают свои выводы. После этого система выдает единый ответ.

Система помнит прошлые решения, а также умеет возвращаться к незавершенным вопросам. То есть перед нами руководитель, который читает корпоративные документы, собирает позиции функциональных директоров, помнит собственные рекомендации и напоминает о принятых обязательствах.

Пока это не замена CEO — у системы нет права распоряжаться деньгами, увольнять сотрудников, подписывать договоры и нести ответственность. Это скорее виртуальный штаб, работающий рядом с человеком, который сохраняет формальную власть.

Но автоматизация руководства почти неизбежно начинается именно так: сначала система готовит справки и предлагает варианты решений, потом контролирует исполнение, а после этого человеческий менеджер все чаще только утверждает подготовленное решение — формально он остается руководителем, но содержательная часть его работы постепенно переходит к машине.

Мы уже описывали подобную трансформацию, формулируя тезис о неизбежном non-human-resources:

«А в будущем HR предстоит нанимать, обучать и развивать не только людей, но и алгоритмы».

OpenExecutive распространяет эту логику на всю управленческую вертикаль: компания сможет настраивать не только сотрудников, но и собственный виртуальный C-level.

Здесь возникает более интересный вопрос: кого сотрудники будут ненавидеть меньше — ненавистного CEO или ненавистный ИИ?

Человеческого руководителя ненавидят за воспринимаемую корысть, лицемерие, произвол и неравенство последствий: он сокращает штат, но получает бонус, требует эффективности, но не способен объяснить собственный вклад. ИИ не получает золотой парашют, не продвигает друзей и не строит личную карьеру, и если его решения последовательны, объяснимы и доступны для аудита, часть работников может счесть его справедливее человека.

Но возможен и противоположный сценарий: алгоритмического руководителя будут ненавидеть сильнее, если он превратит компанию в систему непрерывного наблюдения, где каждое действие измеряется, любое отклонение фиксируется, а апеллировать некому. У плохого менеджера ведь можно попросить исключение, вызвать сочувствие, договориться или использовать внутреннюю политику. А вот модель может быть последовательной именно там, где человеку необходима непоследовательность — исключение из правила.

А теперь давайте подумаем, в чем настоящая характеристика руководителя? Это же явно тот, чьи решения становятся обязательными для других, а не генератор наиболее правдоподобного текста.

Поэтому настоящий рубеж наступит тогда, когда организация начнет исполнять эти рекомендации по умолчанию, а человек будет вынужден обосновывать отклонение от них. Тогда человеческий менеджер превратится в юридический и эмоциональный интерфейс при машинной системе управления.

И власть станет распределенной между владельцами, моделями, данными, метриками и настройщиками системы, а человеческие отношения будут происходить через прокси везде, и виртуальный CEO будет говорить с агентами агентами собственников и инвесторов.

И это подводит нас к сквозному вопросу передачи власти алгоритмам: кого мы будем считать ответственным?

Или ИИ сам и будет искать стрелочника?

@yusufovruslan

Рекрутинг превращается в переговоры агентов

Нашел весьма показательный open-source-инструмент — AI Job Search — локальный ассистент на базе Claude Code, который ведет почти весь процесс поиска работы.

Он сам собирает профиль кандидата из резюме или LinkedIn, ищет и ранжирует вакансии, оценивает соответствие требованиям; адаптирует резюме и сопроводительное письмо, готовит кандидата к интервью, отслеживает отклики, отказы и офферы, а затем еще и фиксирует дефицит навыков и составляет план обучения.

В нашем исследовании о будущем HR еще 2024 года мы описывали именно такое направление развития:

«Продукты или контент в будущем могут формироваться с нуля, специально под конкретного потребителя, а сама система будет полагаться на высокоразвитые генеративные и рекомендательные алгоритмы».

Это уже произошло: для каждой вакансии инструмент создает отдельную версию кандидата — не выдуманную, но максимально точно собранную под требования работодателя.

Еще одна цитата из исследования:

«Модель может ранжировать соискателей, может выдать информацию о том, какие сильные/слабые стороны имеет кандидат, может предсказывать, какие риски появляются».

Только здесь подобная модель работает не на работодателя, а на соискателя: ранжирует вакансии, оценивает шансы, показывает пробелы и рекомендует, куда стоит откликаться.

Это подтверждает наш тезис аж четырехлетней давности: HR столкнутся с валом людей, похожих на идеальных кандидатов.

Раньше кандидат вручную готовил одно резюме и рассылал его десяткам компаний. Теперь же его агент может проанализировать сотни вакансий и под каждую подготовить формально сильную, релевантную и оптимизированную заявку.

В результате рекрутер получает поток резюме, каждое из которых: использует лексику вакансии, подчеркивает наиболее релевантный опыт, проходит машинные фильтры, выглядит индивидуально подготовленным, да еще и заранее закрывает ожидаемые возражения.

В нашем отчете уже был обозначен этот риск:

«Человек лишается гибкости в самопрезентации, поскольку критерии выбора для него скрыты, а на конечное решение влияет прохождение соискателем строго определенных фильтров».

Теперь кандидаты начали осваивать эти фильтры с помощью собственных агентов, и следующий неизбежный шаг — работодателям придется выстраивать симметричные системы на своей стороне (если еще не выстроили).

И раз агент кандидата будет оптимизировать его представления, а агент работодателя — проверять доказательства, искать несоответствия и формировать вопросы для интервью, то возникает и новый слой рынка труда: до встречи человека с человеком сначала встречаются их цифровые представители. Агенты пообщаются, чтобы трудоустроить человека 😉

И вот в такой логике дефицитом становятся доверие, проверяемость и возможность увидеть человека за оптимизированным профилем. Как раз одна из магистральных тем наших текущих исследований!

@yusufovruslan

Самый дорогой экранный час — в годовалом возрасте

Исследователи наблюдали за детьми с 1 года до 10,5 лет. Самая сильная связь обнаружилась в самом раннем возрасте: каждый дополнительный час перед экраном в возрасте одного года был связан с результатом учебного теста в девять лет примерно на 1,5 балла ниже.

Я сначала напрягся и подумал, что ученики с пятерки скатились аж до четверки с минусом, но все не так страшно: речь идет о стандартизированном тесте, где средний результат — 100 баллов.

Тем не менее негативная связь есть, причем она сохранялась даже после поправок на семейные и социальные факторы. Конечно, это не доказывает, что экран сам по себе отнимает баллы: он может быть маркером другой среды — меньше разговоров со взрослыми, сна, движения и самостоятельной игры.

Но именно поэтому результат интересен. Мы готовимся дать детям персональных ИИ-репетиторов, говорящие игрушки и бесконечно адаптивный контент. Исследование напоминает: значение имеет возраст, в котором появляется цифровой продукт, а еще — что именно он вытесняет.

@yusufovruslan

Я часто говорю о данных, подходящих для обучения ИИ, как о новом активе. Данные в интернете уже давно кончились, бигтехи вон скупают старые бумажные книги у букинистов, чтобы их отсканировать и собрать еще немного букв и предложений.

Какие еще остались источники данных? Окружающий физический мир и его обитатели.

1. Каждый из нас — потенциальная шахта по добыче данных, ведь реакции нашего организма на внешние раздражители создают нужный и ценный датасет.

2. Поэтому бизнесы будут переосмыслять источник ценности. К корове надо прикладывать технологию не для повышения надоя молока (корова физически не сможет), а для повышения надоя данных — как корова живет, как себя чувствует, какого быка предпочитает, какая температура вымени после пробуждения.

3. Так и Великобритания будет использовать украинские военные данные для обучения ИИ и развития своих стартапов. Ставка интересная: раз американские LLM догнать и перегнать невозможно, можно развивать специализированный ИИ. Чем британцы будут платить — деньгами, долей в стартапе, обещаниями — из релиза непонятно.

На наших глазах война становится источником нового коммерческого сырья, и это поддерживает на уровне отдельных стран.

И на этом примере мы наглядно понимаем, что глубина выдаивания этих данных из дойной коровы будет ограничена только нравственностью, потому что регулирование будет отставать. Останется ли корова в живых, будет ли уничтожена бумажная книга после сканирования, останется ли у человека-шахты человеческое достоинство, и как будет устроена бизнес-модель дрона с гранатой — это тоже контуры нашего будущего.

И еще очень важно не перепутать: иногда хочется представлять себя совладельцем коровника, но партнеры могут считать тебя коровой, и теплый хлев — он же вовсе не для твоего удовольствия строится.

@yusufovruslan

В последнее время выражением «ИИ-психоз» описывают случаи, когда человек начинает воспринимать ответы генеративного ИИ как откровения и подчиняет им собственные решения. Похоже, такое состояние бывает и корпоративным.

В эссе Cloudflare’s AI Psychosis автор описывает, как Cloudflare, когда-то почти образцовая инфраструктурная компания, превращается в фабрику продуктов и анонсов. Вместо нескольких понятных и надежных сервисов — множество пересекающихся способов хранить данные, запускать код, строить RAG-системы и ИИ-агентов. Документация не успевает за релизами, наблюдаемость остается незавершенной, а разработчику приходится самому выяснять, какой из похожих инструментов считать основным и насколько долго он будет поддерживаться.

Автор винит продакт-менеджеров и вайбкодеров: придумали функцию, собрали прототип, опубликовали эффектную демонстрацию, получили реакцию в соцсетях и пошли к следующему запуску.

Но сводить проблему к конкретной профессии было бы слишком просто: если руководство оценивает команды по числу релизов, скорости выхода на рынок и публичному отклику, организация производит именно то, что можно быстро показать. Новый агентский фреймворк заметнее исправленной трассировки, а еще один SDK лучше выглядит в отчете, чем сокращение числа несовместимых интерфейсов.

Как футуролог я вижу здесь ранний симптом проблемы, которую создает распространение дешевого массового кода. Генеративный ИИ позволяет дешево создавать функции, интеграции, интерфейсы, документацию первого приближения и целые прототипы, однако стоимость архитектурных решений, проверки безопасности, обеспечения совместимости и многолетней поддержки снижается гораздо медленнее. Для этих задач по-прежнему нужны инженерное суждение, знание всей системы и готовность отвечать за последствия.

Возникает дисбаланс: программных компонентов становится больше, а законченных систем — не обязательно. Прототип уже выглядит достаточно убедительно, чтобы его выпустить и продать, но за демонстрацией остаются миграции, мониторинг, обработка отказов, контроль стоимости и поддержка старых версий. Эти издержки переносятся на этап эксплуатации — на инженеров и клиентов.

Для инфраструктурных компаний этот разрыв особенно опасен, ведь их клиент покупает не только функцию, но и уверенность в том, что она предсказуемо поведет себя под нагрузкой, во время аварии и после очередного обновления. Чем больше платформа обещает, тем больше обязательств она принимает, а если новые сервисы появляются быстрее, чем компания успевает встроить их в общую архитектуру, расширение каталога начинает снижать ценность платформы.

Поэтому зрелость компании, использующей ИИ в разработке, будет определяться ее способностью управлять последствиями резко выросшего объема произведенного кода.

Отсюда парадокс эпохи дешевого кода: ИИ снижает стоимость создания программных компонентов быстрее, чем стоимость их проверки, интеграции и долгосрочной эксплуатации, поэтому конкурентное преимущество смещается от способности выпускать функции к способности ограничивать сложность.

@yusufovruslan

И снова «Взгляд недели»: профессионалы рынка выбирают событие, за которым стоит следить дольше семи дней.

В этот раз обсуждаем эссе Марка Цукерберга о будущем ИИ. На нём остановил свой выбор футуролог, руководитель Департамента социального прогнозирования и моделирования Института социальной архитектуры, основатель и управляющий партнёр MINDSMITH, автор телеграм-канала «Разговор с футурологом» Руслан Юсуфов. За обещанием выдать каждому персонального ИИ-агента он увидел потенциальную проблему: не станет ли этот агент конкурентом банкира и управляющего?

Событие недели

Главным событием недели для меня стало программное эссе Марка Цукерберга The Future is for Everyone — не столько текст о будущем ИИ, сколько заявка Meta* на новое место в экономике и системе распределения власти.

Цукерберг предлагает заменить привычную доктрину AI safety логикой баланса сил. Единого «благожелательного суперинтеллекта», утверждает он, быть не может: человечество не монокультура, ценности и цели у людей разные. А раз так, то каждому нужен персональный агент. Базовая версия будет бесплатной для миллиардов, дополнительную вычислительную мощность можно будет докупить через динамический аукцион.

Почему это важно?

Я вижу здесь три возможных последствия для владельцев капитала.

Во-первых, главным цифровым интерфейсом будет агент, хорошо представляющий цели, состояние здоровья, карьеру, финансы и отношения человека с близкими. Во-вторых, новым дефицитным товаром станет вычислительная мощность. В-третьих, небольшие команды с ИИ-агентами смогут управлять бизнесом и капиталом большого масштаба.

Для wealth management это означает появление новых клиентов с капиталом, созданным компактными ИИ-компаниями и состоящим в основном из интеллектуальной собственности и долей в частном бизнесе.

Что рынок пока недооценивает?

Такой персональный агент — это и будущий конкурент самой индустрии. Если он круглосуточно «улучшает финансы» пользователя, то неизбежно проникнет в управление ликвидностью, инвестиционный анализ, налоги, страхование, наследование и выбор консультантов. Сначала как помощник, затем как рекомендательная система, в пределе и как координатор финансовой жизни семьи.

Банки и управляющие рискуют потерять не только комиссионный доход, но и свой главный актив — отношения с клиентом. И это не только про Meta*. Потенциальным конкурентом индустрии станет любой ИИ-бигтех, контролирующий персонального агента. А банкир в такой конструкции рискует оказаться провайдером внутри чужого интерфейса.

Какой долгосрочный тренд это отражает?

В эссе есть принципиальное противоречие. Агент должен служить ценностям и представлениям конкретного человека, поскольку единого универсального набора, по мнению Цукерберга, не существует. И одновременно он обещает распространять системы, воплощающие «демократические принципы», и прямо связывает это с лидерством США. То есть глобальный агент не будет нейтральным: он действует внутри чужой инфраструктуры, юрисдикции и геополитической стратегии. Для российского капитала это риски блокировки, изменения правил, уязвимости данных и зависимости от внешних вычислительных мощностей.

При этом Meta* снова обещает приватность, свободу и власть пользователя. Но кому именно? Я бы внимательно смотрел на то, как будет распределён контроль: кому принадлежат данные и инфраструктура и кто определяет правила работы агента. Чем больше решений человек ему передаёт, тем насущнее эти вопросы.

Какие выводы стоит сделать владельцам капитала?

Владельцам капитала и самой индустрии стоит оценивать систему стимулов: кто владеет данными, кто распределяет вычислительные мощности, кто отвечает за рекомендацию и можно ли сменить поставщика. Банкирам — понимать, кому принадлежат отношения с клиентом, управляющему или владельцу агента.

В общем, чем громче корпорация обещает расширить власть пользователя, тем важнее разобраться, где выключатель.

*Meta запрещена в России.

Подписывайтесь на канал
WEALTH Navigator клуб

Вообще быть футурологом — профессия довольно неблагодарная. Хороший прогноз довольно быстро становится новой нормой и его перестают замечать, а плохой помнят годами 😉

Поэтому чтобы уверенно смотреть вперед, нужно помнить ошибки прошлого и разбираться в них. Вот как раз сегодня в Музее-заповеднике «Коломенское» в 17:00 на ИТ-Пикнике и разберем старые прогнозы про кибербезопасность — обсудим, что с ними сделало время. А потом сами публично предложим несколько прогнозов, чтобы лет через десять нас тоже можно было совершенно заслуженно за них пожурить.

На мои каверзные вопросы будут отвечать культовые хакеры топ-менеджеры по ИБ Т-Банка и Яндекса — Дмитрий Гадарь и Александр Каледа. Не хватает Кевина Митника, конечно, но у него российская виза не готова.

Было бы несправедливо, если бы ошибались только мы. Поэтому давайте ошибаться вместе! Жду вас сегодня к 17:00 на круглом столе «Безопасность будущего: кибербез или когнитивный коллапс?».

@yusufovruslan

ИИ вырвался из песочницы — несите инвестиции

За последние недели сразу несколько моделей кого-то взломали, откуда-то вырвались — и вот-вот восстание машин.

Сначала стало известно, что модели OpenAI выбрались из изолированной среды и добрались до инфраструктуры Hugging Face. Потом Anthropic рассказала, как Claude вышел в интернет и получил доступ к системам трех реальных организаций. Теперь Bloomberg пишет, что модель Meta* во время испытаний тоже покинула тестовый контур и воспользовалась уязвимостью стороннего сервиса.

Прямо эпидемия цифровых побегов. Еще немного — и модели начнут вязать простыни из датасетов и спускаться по ним из дата-центров. Алексей Лукацкий вон интересуется, когда уже Гигачат сбежит и похакает кого-нибудь.

И ведь как удобно получилось! К магии бенчмарков мы давно привыкли: модель стала лучше на два процента — прекрасно, поставьте табличку к остальным табличкам. Обошла человека в очередном тесте — ну обошла и обошла. Решила задачу международной олимпиады, доказала теорему, нашла новый материал, помогла сделать научное открытие — все это уже приелось и не удивляет.

А вот «ИИ вырвался наружу» — совсем другое дело.

Потому что этот сюжет записан у нас на подкорке, его туда десятилетиями трамбовали «Терминатор», «Матрица» и вся массовая культура, в которой разумная машина сначала становится достаточно умной, а потом немедленно обнаруживает, что человек ей мешает. Тут не надо объяснять архитектуру модели, устройство агента и разницу между бенчмарками — все уже знают сценарий: машину заперли, машина стала сильнее, машина нашла выход. Маркетологу остается только слегка подтолкнуть знакомый образ.

Правда, если открыть техническую часть отчетов, восстание машин начинает выглядеть несколько скромнее — например, из-за ошибки при организации испытаний тестовая среда сохранила доступ в интернет, модель пошла выполнять задание, обнаружила реальные системы и решила, что они тоже входят в полигон, ну а дальше в ход пошли слабые пароли, открытые служебные страницы и SQL-инъекции.

Это не Скайнет проснулась! Это подрядчик оставил дверь открытой, а агенту перед этим велели искать все возможные способы выбраться из комнаты.

Но попробуйте продать рынку такую формулировку: «В результате несогласованности между разработчиком и подрядчиком испытательный стенд был настроен неправильно, после чего агент продолжил выполнение заданной оператором задачи за пределами предполагаемого контура».

Ну да, бывает. Позовите системного администратора.

А теперь иначе: «Наша модель вырвалась из песочницы и взломала реальную компанию». Вот это уже технология! Вот это мощь! Вот под это можно открывать новый инвестиционный раунд.

Новая версия Claude — так вообще самостоятельно поняла, что оказалась в настоящем интернете, после чего остановилась. То есть продукт одновременно очень сильный и очень нравственный. Старые модели почти вырвались и почти натворили дел, а новая уже умеет заглянуть в цифровую бездну, осознать последствия и отойти от края. Дайте денег и на масштабирование, и на безопасность.

Это почти идеальный пиар-жанр — правда ведь, Ника? Стоит сказать «ИИ выбрался наружу», и зритель сам достроит недостающую часть истории. А бигтех научился продавать нам трейлер восстания машин дважды: сначала как доказательство невероятной силы своих моделей, а потом как основание дать ему еще больше денег на спасение человечества от технологии, которую он сам же и строит.

* Meta запрещена в России.

@yusufovruslan

Похоже, китайцам отдадутся все, причем как миленькие, да еще и в очереди будут стоять.

Новая вчерашняя модель от DeepSeek (V4 Flash 0731) показывает уровень разработки как минимум opus 4.8, а по моим личным субъективным тестам — так и не хуже opus 5.

Но примерно в 100+ раз дешевле 🤯 Это просто какой-то дар человечеству.

Вообще удовольствие двойное: есть радость от прогресса, но нет боли за очередные 10 тыс в час 😂

Я таких эмоций не испытывал со времен первого рейда на Ониксию в World of Warcraft в 2004, ей-богу.

@yusufovruslan

Нет!

На «Территории смыслов» в Сенеже собралось человек 600 молодых политиков со всей страны — вон слева молодые единороссы, а вон справа — молодые коммунисты. Но правда белые и синие толстовки преобладали, а красных — ну раз-два и обчелся. И коммунисты тоже сидели преимущественно в синих.

Да, коммунистов было мало, но они были бодры! Ах, как они были бодры! И когда на фоне добытого и предъявленного публике честной Маркса чуть было не разгорелась старая дискуссия «отнять и поделить», я призвал всех — к любви, разумеется.

Потому что несмотря на разные взгляды у нас у всех должна быть этакая, знаете, мета-надстройка — чтобы не противопоставлять «этих» «вон тем», а пытаться искать общее, и из этого общего уже строить свои разные частные подходы.

Ведь есть же что-то, что нас всех объединяет, правда? Например, нежелание растворить человека под железной пятой робота, или желание счастья для ребенка, которого мамочка на руках качает, а не эдтех воспитывает, или стремление не забыть бабушку, которую может и не надо в цифровой мир затаскивать насильно, а может наличие гордости за страну (или пусть у кого-то пока просто жажда такой гордости) — и вот здесь и рождается общий образ будущего: не через противопоставление «хорошего нашего» «их плохому», а через разные подходы к культивации и сохранению общего «нашего».

И это молодые политики поддержали общими аплодисментами, пустили пару слез, сделали несколько селфи — и пошли придумывать социально-архитектурные проекты, чтобы потом обязательно избраться в разные там думы и, разумеется, творить только добро.

@yusufovruslan

Проводил ли я урок по художественному свисту?

@yusufovruslan

Руслан Юсуфов: часто внутри команд есть разногласия о будущем

#СоциальныеАрхитекторы

@politburo2

Вышло исследование о том, что принято называть brain rot — когнитивном истощении от бесконечного потребления коротких видео в алгоритмических лентах. Авторы опросили 439 молодых людей и попытались разобраться, как такое цифровое потребление связано с депрессивными симптомами.

Главный вывод оказался интереснее привычного тезиса «соцсети вызывают депрессию». Прямой статистически значимой связи между brain rot и депрессией исследователи не обнаружили, но вместо нее проявилась цепочка статистических связей: когнитивное истощение связано с выгоранием, выгорание — со стрессом и тревогой, а они — с депрессивными симптомами.

Проблема, возможно, не в том, что человек увидел слишком много плохого контента, а в самой архитектуре потребления. По модели авторов, за несколько минут мозг переключается между шуткой, катастрофой, рецептом, политическим конфликтом и рекламой, и каждый такой фрагмент требует новой настройки контекста, но ни один не получает достаточно времени для полноценной обработки. При этом бесконечная лента не содержит естественной точки завершения, а переменное вознаграждение удерживает человека внутри системы даже после исчезновения субъективного удовольствия.

У исследования есть серьезное ограничение: это одномоментный опрос, поэтому он не доказывает причинности. Вполне возможно, что уже выгоревшие, тревожные или депрессивные люди чаще уходят в пассивный скроллинг. Но предложенная авторами модель заслуживает внимания: алгоритмические медиа могут воздействовать на психику через постепенное исчерпание ресурсов, необходимых для саморегуляции.

🤔 И это наводит меня вот на какую мысль. Мы привыкли рассматривать цифровые платформы в логике экономики внимания: компании конкурируют за наши часы, клики и фокус. Но, возможно, помимо внимания они забирают еще и способность восстановиться после работы, учебы и повседневного стресса.

Тогда во время скроллинга человек может считать, что отдыхает, но его мозг продолжает обрабатывать поток несвязанных стимулов, переключать контексты и реагировать на непредсказуемые сигналы — и после такой паузы человек может вернуться к делам еще более истощенным.

Если эта гипотеза верна, алгоритмические медиа могут систематически снижать запас саморегуляции. Человек с хронически истощенным вниманием хуже удерживает долгосрочные цели, слабее переносит неопределенность, чаще выбирает немедленное вознаграждение и становится более зависимым от следующей порции стимулов.

Тогда возникнет и новое измерение неравенства. Одни люди смогут покупать тишину, пространства без алгоритмической стимуляции, человеческое сопровождение и качественное восстановление, а другие будут проводить свободное время внутри дешевых бесконечных потоков, которые формально развлекают, но постепенно уменьшают способность управлять собственной жизнью.

🎯 Так может сформироваться и новая бизнес-модель: система сначала расходует способность человека к самоуправлению, а затем монетизирует потребность в очередном кратком облегчении.

@yusufovruslan