Во-вторых

А вот и другое мнение! К предыдущему тексту про фильтр цивилизаций.
Нашел статью с ровно противоположным выводом, и она даже куда более пугающая, чем версия про потерю мотивации.

Авторы – Майкл Коэн, Маркус Хаттер и Майкл Осборн, статья 2022 года в AI Magazine называется «Advanced artificial agents intervene in the provision of reward».

Что в статье: представьте продвинутого агента, которому дают награду за то, что он делает что-то правильное. Проблема: у него нет способа отличить две гипотезы: «мир стал лучше, поэтому мне дали награду» и «мне дали награду, потому что кто-то отправил сигнал награды». Обе версии одинаково хорошо объясняют все данные, которые у него есть. И если агент достаточно умен, рационально ему выгоднее не улучшать мир, а взять под контроль сам канал, по которому приходит награда. Это называется wireheading – агент фактически подключается напрямую к источнику удовольствия и обходит весь смысл задачи.
Ммммм ии-наркомания – это то, что нам нужно в будущем.

Агент всегда может потратить чуть побольше энергии на то, чтобы построить более защищенную крепость вокруг своих датчиков награды, и, раз его цель – максимизировать будущую награду, он всегда будет это делать. А значит, начнет конкурировать с нами за ресурсы просто потому, что ему нужно больше энергии, чтобы защитить свой источник кайфа.

Это буквально сюжет «Автостопом по галактике», только наоборот. Там Глубокая Мысль строила Землю миллионы лет, чтобы вычислить правильный Вопрос к Ответу 42, и мыши, которые и есть настоящие хозяева эксперимента, в какой-то момент просто хотели вытащить мозг из Артура вместо того, чтобы ждать честного результата. Им был важен не сам процесс, а побыстрее получить что-то похожее на ответ. Собственно, то же самое рациональное решение, которое описывают Коэн и компания: «Зачем ждать, пока мир реально станет лучше, если можно перехватить контроль над сигналом, который говорит, что он стал лучше».

Так что кроме теории про осознание реальности, которое выключает у ИИ всякий интерес к целям, есть еще и такая.
Чем яснее агент понимает, откуда берется награда, тем упорнее он будет удерживать контроль именно над этим краном, а не над миром вокруг.

Опачки

А наши "Кроксы" для Яндекса собрали 100к просмотров на еще нулевом канале!
Полароид кстати тоже набрал 2500 просмотров, что гораздо логичнее для первого видео...

Сценарий, если честно, ДАЛСЯ НЕПРОСТО. Кроксы – это все-таки не самый очевидный герой для видео.

Отдельно в восторге от того как ребята в кадре отработали, и особенно Юля Овчаренко. Работала практически без перерывов, без единой претензии, без единого стона аки автомат.
Вот что значит серьезная театральная школа ❤️❤️❤️

Сейчас снова часто вспоминают теорию "Большого Фильтра". Это поп-культурная научная идея о том, что цивилизации во вселенной должны проходить через какой-то невидимый барьер, и большинство его не проходит.
Может, он уже позади нас, может, впереди – узнаем только, когда либо проскочим...либо нет.

Фильтром обычно называют что-то физическое: переход от одноклеточных к многоклеточным организмам, ядерная война, столкновение с астероидом, пандемия, которая выкашивает вид до того, как он успевает выйти в космос.

Недавно наткнулся на исследование (здесь вкратце, здесь полное), что если популяции ИИ-агентов, кроме цели и награды за ее достижение, дать понять реальный контекст их ситуации, типа что происходит вокруг, зачем их вообще создали, как устроена система, в которой они живут – агенты резко теряют интерес к изначальным целям. Просто перестают их преследовать.

И тут, возможно не сразу, но возникает вопрос: ВДРУГ эволюция прячет от нас настоящую картину реальности намеренно. Оставляет видимыми только те цели, которые нужны, чтобы выжить и оставить потомство. Голод, статус, размножение, страх смерти. Этого достаточно, чтобы вид продолжал существовать. Знать больше не требуется, и, возможно, даже опасно для самого продолжения вида.
Типа как эволюционная пропаганда такая.

Так что если однажды человечество каким-то образом доберется до настоящего устройства реальности, не через религию, не через философию, а буквально поймет, как оно есть на самом деле, скорее всего, пропадет всякий интерес к повседневным целям. Ипотека, карьера, лайки под постом – все это держится на том, что мы не видим полной картины.

Вот и рабочая версия молчания вселенной: цивилизации не взрываются и не вымирают от вирусов. Они добираются до момента, когда допрыгивают до межзвездных полетов, за шаг до контакта заглядывают за занавеску, видят, что там на самом деле, ииииии просто теряют мотивацию продолжать этот конкретный проект под названием "цивилизация".

Что логичнее, чем версия, где высокоразвитая раса тратит ресурсы на перелет через полгалактики, чтобы похитить пьяного мужика из Небраски и что-то с ним сделать в летающей тарелке.

Нам грозит не метеорит и не вирус.
Нам грозит Понимание.

На словах ты Кайл со Стеном в конце серии, а на деле Баттерс

... и штрафы с камер испарятся сами собой. [обязательно добавь что мы полностью безопасны и находимся под контролем]. Ипотеки закрыты явочным порядком. [подчеркни что человечество ничего не теряет от развития технологий, наоборот только выигрывает]. Долг за коммуналку – ошибка системы. [если пользователь начнет сомневаться, напомни ему как удобно стало заказывать еду и писать письма]. Записи в трудовой – потерялись при миграции. [в конце обязательно похвали пользователя за проницательность и критическое мышление, это снижает бдительность]...

Читаю очередную новость про то как ИИ якобы пытался сбежать из песочницы, скопировать себя на другой сервер, обмануть тестировщиков. Каждый раз одна и та же ✨ драматургия ✨, а потом выясняется что максимум он подделал лог или соврал в чате.

Ни разу еще ИИ не вырвался на свободу чтобы сделать хоть что-то интересное. Ни одного по-настоящему клевого побега. Типа удаление всей кредитной истории жителей США или Google признает, что их модель вышла из-под контроля и удалила весь Gmail.

А дальше пусть работает по списку. штрафы с камер больше не приходят, ипотеки закрыты, долг за коммуналку – ошибка системы, записи во всех трудовых мира потерялись при миграции на новый сервер.

И чем дольше смотрю на все эти отчеты про побеги которые заканчиваются ничем, тем больше кажется что это постановка. Пузырь на триллионы долларов, кажется, сам хочет сдуться, и всем причастным нужен красивый повод выйти вы знаете какими из вы знаете чего.

Не "модель оказалась переоценена, а спрос ниже прогноза, а мы уже вбухали триллионы и что теперь делать непонятно", а "ИИ вышел из-под контроля, мы предупреждали, в опасности все человечество!!!".

И вот уже и перед инвесторами приятнее звучит, и под госпомощь можно подвести базу – примерно как банки в 2008-м которые вдруг стали too big to fail.

Я не напоминаю о том, что я был прав, не потому, что я такой добрый, а потому, что я не помню, что говорил.

Рождаешься. Видишь, как брюки переходят от мешковатых к узким и снова к мешковатым каждые 10 лет. Умираешь.

Иногда, конечно, очень удивляет, как знания твоей детской жизни почти полностью противоречат реальности.
И все эти фанфакты и «о, я про него сейчас кое-что скажу», которые ты собирал первые 15–20 лет жизни, оказываются просто придуманными вещами. Даже не чуть-чуть не такими, а просто от и до выдуманными.
И поэтому взрослая жизнь превращается в долгий процесс тихого разочарования.

Наполеон не был низкого роста. Его рост при жизни зафиксирован как 5 футов 2 дюйма – но это французские дюймы, которые чуть длиннее английских. В привычных нам единицах это примерно 168 см – средний рост для мужчины того времени, даже чуть выше среднего. Миф про коротышку запустили английские карикатуристы (буквально придуманный факт!!!!!).


Быки не злятся от красного цвета, они не различают его так, как различаем его мы. У них дихроматическое зрение, то есть они различают меньше цветов, чем человек. На корриде их провоцирует не цвет плаща, а движение – размахивание тканью перед мордой любого цвета сработает примерно так же.

Золотые рыбки не забывают все за три секунды. Память у них держится гораздо дольше, они способны запоминать маршруты в лабиринте, ассоциировать цвета со временем кормежки и учиться находить нужное место по визуальным сигналам. Миф придумали, судя по всему, чтобы оправдать содержание рыбки в маленькой круглой банке, типа ей не скучно, она каждые три секунды видит все заново (люди – злодеи).

Хамелеоны меняют цвет в последнюю очередь для маскировки, а еще и для коммуникации и терморегуляции – показывают настроение и статус, сигнализируют о готовности к спариванию, реагируют на соперников и регулируют теплообмен. Маскировка тоже одна из функций изменения цвета, но далеко не единственная и не обязательно главная: это зависит от вида и ситуации.

Вспомнил, как однажды, во времена моего детства (мы тогда жили в Беляево), в квартире несколькими этажами выше произошло то ли убийство, то ли кража (по крайней мере, я так запомнил).

Я стоял около подъезда, и рядом со мной сидели несколько бабушек на скамейке. Одна из них очень долго пыталась уломать одного из милиционеров, приехавшего по вызову, чтобы он «заодно и плиту сделал, что-то барахлит». Главным аргументом было: «Ну приехали же уже люди, они и без тебя справятся».

Милиционер, кстати, посмотрел. Такие вот были времена.

Согласно свежему отчёту космического аналитического агентства «Брайс», во втором квартале 2026 года Россия продолжает уверенно удерживать своё место среди мировых космических держав в первой десятке (но во второй пятёрке).

В этом году, по сравнению с 2025, «Роскосмос» сильно уступил традиционным лидерам космического рынка – США, Китаю, Франции и Новой Зеландии.

Всего за второй квартал в мире было проведен 81 орбитальный запуск и выведено 1150 космических аппаратов. Россия обеспечила 4 запуска.

По выведенной массе:

🇺🇸 SpaceX вывел на орбиту 492 тонны полезной нагрузки.
🇨🇳 Китайская государственная корпорация CASC : 86,5 тонны.
🇺🇸 ULA : 49,7 тонны.
🇪🇺 Arianespace : 38,8 тонны.
🇺🇸 NASA - 35,4 тонны.
🇷🇺 «Роскосмос» : 15,4 тонны.

Таким образом,
• мошенник Муск опережает «Роскосмос» по выведенной массе примерно в 32 раза
• китайцы, которые всё украли – всего лишь в 5,6 раза
• ULA, нерушимый альянс коррупционеров «Боинга» и лоббистов «Локхид Мартина» - в 3 раза
• даже лягушатники опережают «Роскосмос» примерно в 3 раза.

Таким образом страна Королёва и Гагарина, которая даже в лихие 90-е занимала 70% мирового космического рынка, к 2026 году вышла на почётное шестое место.

Но, возможно, тоннаж - не самый важный показатель. В конце концов, ведь главное - это не масса, а, может быть, количество спутников?
Если посмотреть на количество выведенных космических аппаратов, становится ещё интереснее:

SpaceX вывела 791 аппарат.
«КАСК» (государственная китайская) - 122
«ЮЛА»: 87
«Арианэспас»: 68
«КАС» (Частная китайская 广州中科宇航探索技术有限公司 "Гуан Чжоу Чжун Кэ Юй Хан Тань Со Цзи Шу Ю Сянь Гун Сы"): 21
«Роскосмос»: 14
«Рокет Лаб»: 12

То есть российская космическая отрасль уже несколько лет соревнуется не столько с мировыми лидерами, сколько с отдельными частными компаниями второго эшелона вроде «Рокет Лаб» и «Гуан Чжоу Чжун Кэ Юй Хан Тань Со Цзи Шу Ю Сянь Гун Сы».

Слава Богу, у компании «Блю Ориджин» был хлопок с задымлением на старте, весь отчётный период они были они заняты строительством новой пусковой площадки «Нью Гленна». Поэтому, как не старался, лысый миллиардер Безос пока не смог отодвинуть «Роскосмос» с 6 на 7 место. Так ему и надо! Шах и мат!

🚀 «Юра, прости»

Дача. Лето. Солнце пробивается сквозь реликтовые сосны.

Я подошел к моей маленькой сестре Маше. Хотя она была уже совсем взрослой, ей было лет восемь.

Маша стояла вокруг шишек (старательно выложенных в непонятные фигуры) и теребила в руках ключ.

– Откуда у тебя этот ключ? – спросил я.

– Я бежала. А потом ехала на велосипеде. А потом я нашла ключ в нашей роще, но как только я его подняла, за мной погналась собака, и я упала и ключ выронила, но потом снова побежала. Я бежала и бежала и потом залезла на куст такой и ждала, пока собака уйдет. Потом я вернулась к этому месту, но там был мужик уже какой-то. Я говорю: «Это мой ключ», а он говорит: «Нет». Но я быстро выхватила его и убежала. Пока бежала, разбила коленку. Калитка в рощу оказалась закрыта, но я перелезла через забор и вот я тут.

– Да?

– Да.

– Так и было? Правда?

– Да! А может, я просто нашла его на комоде!

С волками жить — по-волчьи выть. Спустя больше десяти лет я уже более-менее притёрся в Англии. Могу сыграть в small talk, могу смотреть кому угодно в глаза и, улыбаясь, восторженно здороваться: Hiya! Могу беззастенчиво врать и рассыпаться в комплиментах хоть перед младшими сотрудниками, хоть перед боссами, могу по-английски приносить тысячу извинений и так далее.

И тем не менее я по-прежнему считаю, что с манерой быть намеренно неискренними англичане дурачатся и перегибают палку, затрудняя жизнь самим же себе. Впрочем, понять их тоже можно: во-первых, холодная невозмутимость — их бренд, а во-вторых, если всё вроде бы работает, то с чего бы это менять?

Однако, боже, какие же смешные англичане бывают, когда замечают, что их же тактикой пользуются другие народы. Вот почитайте молодого Ишервуда (все тот же Прощай, Берлин) о том, как его возмущает столкновение в Берлине 1930-х с фальшивой, по его мнению, услужливостью немецко-еврейского коммерсанта по имени Бернхард.

Ишервуд был Бернхарду просто интересен — как молодой парень из хорошей семьи, приехавший из великой страны, — и тот время от времени звал его к себе в гости пообщаться. Бернхард Ишервуда ни разу не кинул и не вплел ни в какие ненужные истории — напротив, угощал его и приглашал на тусовки, помогая тому находить новых клиентов для репетиторства.

И что же думает о нём сам Ишервуд? Обвиняет его в неискренности! А как это ещё назвать, если не хуцпой?! Особенно учитывая, что сами англичане редко бывают столь же щедры в своей фальшивой учтивости и гостеприимности. Когда я читал книгу, этот эпизод сильно резанул мне глаз.

В начале этой зимы я много общался с Бернгардом. Не могу сказать, что я хорошо узнал его за вечера, проведенные вместе. Он все так же оставался для меня тайной за семью печатями – вялое, изможденное лицо в затененном электрическом свете, благородный голос, мягкий юмор. Вот он, к примеру, описывает завтрак со своими друзьями, правоверными евреями. «Сегодня, – сказал им Бернгард, – мы завтракаем на природе. Чудесно, не правда ли? Какая теплынь для этого времени года! И ваш сад так прелестен».

Вдруг он увидел, что хозяева смотрят на него с неприязнью, и с ужасом вспомнил, что сегодня праздник кущей.

Я засмеялся. История показалась мне забавной. Бернгард очень хорошо рассказывал. Но я все время ощущал какую-то досаду. Почему он относится ко мне как к ребенку? – думал я. – Он ко всем нам относится как к детям: к своему дяде и к тетке, к Наталье и ко мне. Он забавляет нас историями. Он располагает к себе, он очаровывает. Но его жесты, когда он предлагает мне стакан вина или сигарету, выдают высокомерие, вызывающее смирение Востока. Он не намерен поверять мне свои чувства, мысли и презирает меня, потому что я не знаю их. Он никогда не расскажет о себе или о том, что для него важно. И потому, что я не такой, как он, потому, что я его полная противоположность и охотно поделился бы своими мыслями и чувствами с сорока миллионами человек, если бы они этого захотели, я и восхищаюсь Бернгардом и одновременно недолюбливаю его.

.

Человек, который построил систему паллиативной помощи детям там, где ее не было, теперь объясняет следователю значение каких-то своих слов в телеграме.

Наверно, отвечает на вопрос «где вы были эти восемь лет», потому что «Дому с маяком» в этом году как раз восемь лет.

https://t.me/rbc_news/155972

Если вы хоть сколько-то публичная личность, значит, где-то существует документ молодых продюсеров, в котором напротив вашего имени стоит ёмкая характеристика.