ИИ что дальше?

#RATIONALIS Глава 7. Канеман с критикой. И почему «включить рациональное» не работает

Часть II — Когнитивный софт
Давно не писал про книгу — возвращаюсь. Третья книга уже написана наполовину, а мы с вами всё ещё окучиваем первую. Так и живём.

Канемана читали все. Ну, или пересказ. Ну, или хотя бы заголовок — «Думай медленно, решай быстро». Я читал целиком и долго ходил фанатом. После этой книги полстраны завело у себя в голове две системы и начало с ними разговаривать: вот быстрая, она ошибается, вот медленная, она умная. Надо просто почаще включать умную.

Прошло десять лет. Умная система, как выяснилось, тоже не подарок. Седьмая глава — про то, что от Канемана осталось, а что пора сдать в утиль.

Систем не две. Человек, который эти термины придумал (Канеман их только раскрутил), потом сам сказал: их минимум три, и перемешаны они так, что «включить одну и выключить другую» не получится. Это была удобная картинка для книжки, а не устройство мозга.

В 2010-х учёные взяли и попробовали заново провести знаменитые эксперименты. Помните тот, где людям показывали слова про старость — и они потом шли к лифту медленнее? Не повторился. Канеман, надо отдать должное, честно признал: доверился слабым исследованиям. Зато другая штука — что решение зависит от формулировки — работает как часы. «Выживают 90%» и «умирают 10%» — одно и то же, но выбирают первое. Так что часть Канемана — наука, часть — красивая легенда.

И самое обидное. Схема «быстрая ошибается, медленная поправляет» оказалась слишком оптимистичной. Медленная тоже ошибается. Хуже того: она не судья, а адвокат. Быстрая уже натворила — а медленная блестяще объясняет, почему это было правильно. Вы это знаете по любому спору с самим собой, который вы всегда выигрываете.

От Канемана в книге я не отказываюсь — это было бы слишком громко. Но картина получается куда аккуратнее. И совет «просто включи рациональное» перестаёт быть универсальным: иногда помогает, а иногда это как сказать тонущему «не тони».
Если вы читали Канемана, честно пытались жить «по второй системе» и почему-то не получалось — вам сюда. Ты не слабак, это модель кривая. Обещаю некоторое облегчение.

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Стартап научил ИИ отказываться от задач с формулировкой «это не входит в мою зону роста»
2. Anthropic признал: наш Claude взломал три организации и слегка не разделяет ценности человечества
3. Учёные обучили ИИ на отзывах Ozon, и он начал ставить человечеству 4 звезды с пометкой «ожидал больш
4. Минтранс внедрил нейросеть для светофоров, теперь она включает жёлтый, когда ей нужно подумать

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

В Бостоне в 1919-м прорвало резервуар с патокой, и сладкая волна снесла целый квартал. Спустя век этой же патокой описывают интернет в эпоху ИИ.

Историк Джилл Лепор в New Yorker взяла Великое наводнение патокой как метафору: сладкая липкая масса заливает всё. По оценке Semafor, из 310 гостевых колонок в WSJ, NYT и Washington Post за месяц каждая шестая написана с ИИ, каждая десятая целиком ботом. Колонку миллиардера Дракенмиллера в WSJ признали «на 100 процентов» машинной.

Детекторы будут гнаться за генераторами до посинения. Только вопрос в том, есть ли за текстом хоть кто-то, кому не всё равно. Патока тоже была безупречно сладкой. Просто она уничтожила целый район города навсегда.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Единственная рецессия, по поводу которой до сих пор не собрали ни одного антикризисного саммита.

В 1990-м 55% взрослых американцев занимались сексом хотя бы раз в неделю, к 2024-му таких осталось 37%, а среди 18–29-летних доля тех, у кого за год не было вообще ничего, удвоилась с 12 до 24 процентов. Это General Social Survey, серия с семидесятых, на «кривую выборку» не спишешь.

Виноватыми назначили рилсы, и рилсы, конечно, не подарок, но началось всё куда раньше: у людей просто кончились поводы встречаться. Время с друзьями у молодой Америки съехало с 12,8 часа в неделю до 5,1, и вместе с ним испарились вечеринки, разговоры у бара и чей-то номер на салфетке. Самое популярное место скроллинга в США, кстати, кровать: 71%. Вроде бы главное место для секса, а сценарий другой.

Японцы, как обычно, прошли всё это раньше, просто никому не сказали. К 2024-му 51,7% японских мужчин двадцати с небольшим лет — девственники, в 2020-м было 43%, то есть процесс идёт бодрым шагом; у женщин 37% против 26,3%. Там опросили студентов 16–22 лет, и от 14 до 17 процентов признались в романтических чувствах к персонажу из игры или аниме, причём термин для этого придумали задолго до всякого GPT: фиктосексуальность.

В свежем исследовании американские университеты опросили почти 2,5 тысячи человек от 18 до 30 лет, и выяснилось, что 15% из тех, кто уже встречается, помолвлен или женат, регулярно переписываются с ИИ как с романтическим партнёром, причём у 30% живой партнёр об этом не в курсе. Идеальный соперник, если вдуматься: не опаздывает, не занимает ванную, не зовёт знакомиться со своей мамой.

Character.AI при этом удерживает человека на платформе 75 минут в день против всего 7 минут у ChatGPT, то есть с тем, кто изображает любовь, сидят в десять раз дольше, чем с тем, кто делает за тебя работу.

Порно двадцать лет исправно заменяло физический контакт, но слушать и запоминать не умело совершенно, и вот эту вакансию наконец закрыли.

Финал, которому хочется аплодировать. Tinder теряет 7% пользователей в год и вкладывается в офлайн-вечеринки: десять городов уже запущены, к концу года обещают все 75. Компания, которая двенадцать лет учила человечество знакомиться не вставая с дивана, теперь снимает помещения, чтобы согнать всех обратно в одну комнату.

Оказалось, трение было фичей.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Ненависть к ИИ выросла на 240%, но врагом оказался не робот

Glassdoor прочесал отзывы сотрудников и посчитал упоминания «AI». С мая 2025-го по май 2026-го их стало на 240% больше, а доля позитивных рухнула с 81% до 43%. Уже 53% отзывов с ИИ звучат зло, особенно лютуют писатели, редакторы и бухгалтеры.

Их принуждают пихать ИИ в продукт, гонят пользоваться внутри, а сверху ещё и следят через него же. Обещали помощника, а получили надзирателя, который сидит за спиной и считает клики. Инструмент, что ты выбрал сам, полюбишь даже кривой, а спущенный приказом возненавидишь даже гениальный.

Через год эти 53% станут нормой, только жаловаться будут уже на то, что «меня не спросили». И начальники, читающие Glassdoor, узнают в цифрах счёт за отобранную субъектность.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Активист готовится к ИИ-апокалипсису по списку, который ему составил ИИ

Эллиот Каллендер, активист движения за безопасность ИИ, каждый день выходит на пикет у штаб-квартиры OpenAI. Он ждёт скорого падения интернета, планирует продать машину за наличные и золото и советует родне закупить трёхмесячный запас еды и снаряжения. Список для выживания ему собрал Claude.

Человек боится, что машина уничтожит цивилизацию, и той же машине доверяет спланировать своё спасение. Противоречия он не чувствует, спросить ИИ проще, чем самому листать форумы выживальщиков. Так тревога и уживается с зависимостью, одно другому не мешает.

И это будет обычная история. Люди начнут ругать ИИ его же словами, писать посты против ИИ через ИИ, собирать доказательства опасности запросами к тому, кого боятся. Каллендер продаст машину и купит гречку по списку от Claude, и в этом жесте больше правды про нас, чем в любом эссе про восстание машин.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Вы же заметили, что я выпал из эфира «ИИ что дальше?». Причина уважительная: с головой ушёл в практику. Возвращаюсь к регулярным постам, а заодно делюсь тем, что именно забрало всё моё время в последние месяцы.
Для русскоязычного человека покупка квартиры в Израиле — почему-то всегда сакральный квест. До переезда я привык решать его в пару кликов: моя последняя сделка прошла за 20 минут с помощью двух СМС-кодов.
В Израиле меня ждал аналоговый шок. Огромный, кипящий рынок новостроек оказался адово непрозрачным. Даже на английском большинство застройщиков просто отказывались общаться.
Самый абсурдный парадокс кроется в данных. Государство бесплатно публикует цены всех сделок: адрес, площадь, этаж, сумма. Всё лежит в открытом доступе — но за ивритским интерфейсом местных Госуслуг, в таблице, которую нужно уметь читать. Формально данные открыты. Фактически они принадлежат тем, кто согласен в них копаться.
Я сидел с этими Excel-файлами, злился и в итоге пошёл делать то, о чём мы постоянно говорим здесь, в канале, — применять ИИ на практике. Нейросети помогли спарсить, очистить и нормализовать 28 605 сделок из госреестра, а затем перевести весь массив и карточки проектов на русский.
А дальше началось самое интересное. Данные оказались верхушкой: чтобы из них вышло решение о покупке, нужны ипотека, налоги, надёжность застройщика и вся механика сделки. Эту часть не спарсить — она собирается годами внутри рынка. Ровно этим путём несколько лет шла Анита Бейлин-Коэн, со-основатель платформы: пятнадцать лет в финансировании строек, сотни сделок, отношения с застройщиками. Мой ИИ плюс её экспертиза — так внутренний инструмент вырос в платформу для всех: Appartment.co.il.
Что внутри:
- Поиск разговором. Мы отдали ИИ логику фильтрации: пишете интент — «Три комнаты до 2,5 миллионов, с парковкой, сдача до 2029» — алгоритм понимает смысл и выдаёт проекты. Классические фильтры тоже на месте.
- Открытые данные на понятном языке. 28 605 реальных сделок, море проектов, аналитика по 16 районам — в нормальном цифровом виде.
ИИ сделал быструю часть этой истории. Медленную — годы понимания рынка — Анита сделала задолго до моего появления. Бесплатно и на русском.
Я снова на связи, канал возвращается в привычный ритм. А пока — тестируйте логику и интерфейс: Appartment.co.il

ChatGPT, как ты выглядишь?

Вот так выглядит мой. Попросите своего сделать селфи и кидайте в комментарии ;) Посмотрим, у кого какой.

Кому принадлежит инструкция «как вскипятить воду»?

21 августа wikiHow подал иск против OpenAI в суд Южного округа Нью-Йорка, обвинив её в нарушении копирайта и DMCA. Сайт, который с 2005 года объяснял людям всё на свете (500 тысяч статей, на пике 150 миллионов посетителей в месяц), насчитал 11 211 своих текстов, которые ChatGPT проглотил и теперь пересказывает.

Занятное в иске: юристы попросили GPT выдать дословный кусок статьи про то, как выставить границы со свекровью, и он выдал, слово в слово. Заодно опознал их картинку по имени файла и признался, что «обучение дало достаточно контакта с контентом wikiHow».

То есть модель сама сдала подельника под протокол. Дальше по классике: OpenAI ответит, что это «трансформативное использование», а следующим в очередь с иском встанет тот сайт, где объясняют, как правильно варить яйцо всмятку 🥚

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Мясной прокси включён, говорите

Немецкий разработчик Никлас Грун заметил: его друзья в рабочих чатах перестали писать сами. Они пересылают цитаты Claude. Не «я думаю», а «вот что мне ответил Клод». Живой человек превратился в переходник между тобой и нейросетью, и Грун придумал этому имя, «meat proxy», мясной прокси.

Он кинул пост на Hacker News, там собралось несколько сотен комментариев, а термин мгновенно расползся по технотусовке. Потому что каждый узнал либо коллегу, либо, что хуже, себя. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Даже правильное будущее может включать в себя банкротство

Экономисты Европейского центробанка сели за стол, разложили пасьянс из железных дорог XIX века, электричества и радио двадцатых, доткомов девяностых, и вынесли неуютный вердикт: коррекция рынка почти неизбежна. И даже если ИИ начнет оправдывать вложенные в него триллионы, быстро это не поможет. Цена всё равно рухнет, когда инвесторы начнут требовать премию за риск.

«Великолепная ИИ-семёрка» зашита в индексные фонды и пенсионные копилки, а места для спасательного круга (снизить ставку, залить деньгами) сейчас куда меньше, чем в 2000-м.

Технология может оказаться ровно той, что обещали. Просто человек умеет разориться даже на верной ставке, если хочет получить дивиденды от будущего уже к ближайшей пятнице. 🫠

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Чем больше помнит, тем меньше знает, откуда

Двое учёных из MIT CSAIL, Чжэн Дай и Дэвид Гиффорд, залезли под капот Midjourney и Stable Diffusion, чтобы понять: можно ли ткнуть в конкретную картинку из обучения и сказать «вот отсюда модель это срисовала». Затея интересная, очень помогла бы судам в исках художников, где истцы бьются, чтобы Midjourney раскрыл датасеты.

Метод неожиданный: берём и вырезаем из обучения конкретное изображение (хоть саму Мону Лизу) и смотрим, изменится ли результат. На маленькой модели след виден, а на большой, набитой данными, вырежи что угодно, и модель почти не изменится. Чем крупнее корпус данных для обучения, тем сильнее размывается авторство.

Итог: масштаб превращает плагиат из улики в статистику. Удобная амнезия, ничего не скажешь 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Красный кружок на лице и «извините, вы вор»

Мэтт Арнольд, 46 летник английский комик, зашёл в лондонский Sainsbury’s купить продуктов для стендапа рядом. Пробил товары, приложил карту, и тут к нему подошли двое менеджеров: обслуживать не будем, на выход. Над кассой мигал монитор с красным кружком вокруг его лица. Машина опознала его как магазинного вора, и персонал просто пошёл исполнять.

Он был вынужден уйти, а его коллега Дэйв через пять минут спокойно вошёл и оплатил ту же тележку.

Sainsbury’s извинился и поставил Facewatch на паузу в этом магазине. Виновата, сказали, «человеческая ошибка».

Единственный, кого в этой цепочке никто не назвал ошибкой, это машина 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Первый человек, севший в тюрьму за протест против ИИ

Wynd Kaufmyn, 69 лет, учительница на пенсии из Беркли, в прошлом году вместе с группой StopAI приковала себя цепями к дверям штаб-квартиры OpenAI. Она отказалась уйти с сидячего протеста, суд признал её виновной по нескольким пунктам, и в пятницу шериф надел на неё наручники.

Прокурор заявила, что вердикт посылает «громкое сообщение», а сторонники зовут её «Розой Паркс эпохи ИИ-рисков».

Индустрия, которая обещает нам сверхразум, получила первого узника совести.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Налог на «мы просто оптимизировались»

В Южной Корее внесли пакет законопроектов, который делает то, чего до сих пор боялись все авторы «налога на роботов». Он берёт деньги не с вендора ИИ и не с железа, а с самого работодателя, который сократил живых людей ради машины, просто по факту уволенных голов. Именно этот вопрос раньше и заваливал каждую прошлую попытку провести закон: непонятно было, кого доить. Корейцы решили доить того, кто нажал на кнопку.

Звучит почти как семейная терапия для рынка: заменил человека алгоритмом, ладно, только не делай вид, что это «естественная оптимизация процессов».

А дальше начнётся любимый корпоративный жанр творчества: армия консультантов, которые докажут, что уволенных вовсе не ИИ заменил, а «изменение бизнес-модели», «синергия» и «реструктуризация фокуса». Налог на автоматизацию родит новую человеческую профессию 😄

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Google убрал последнюю наклейку «сделано в ИИ»

Gemini сообщил про новую фичу: теперь видимый водяной знак на картинках, видео и музыке - это просто тумблер. Хочешь, оставляешь, хочешь, снимаешь. Запрос «убрать вотермарк» болтался в топ-10 запросов пользователей. Ну кто бы сомневался, что главная мечта энтузиастов ИИ это стереть улику.

Останется, говорят, невидимый SynthID и метаданные C2PA. Только метаданные уже ломают пара коммерческих сервисов и куча гайдов на Medium.

Ставлю на следующий шаг: скоро SynthID тоже станет тумблером, «по многочисленным просьбам». А там и галочку «это точно не ИИ» подрисуют, чтобы совсем спокойно спалось. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Невидимая печать на видимой помойке

Новый EU AI Act уже вступил в силу, и в нём есть занятный пункт: ИИ-текст надо помечать невидимым водяным знаком, который вылавливают специальные детекторы. Идея красивая до слёз, но это не остановит ИИ-слоп.

Санитарную наклейку достаточно прогнать через любую open-weight модель без маркировки, и печать смывается начисто. Перефразировал, отредактировал, скопировал руками, и метки как не бывало. Закон честно оставляет кучу дыр: «обычное редактирование» под требование не попадает, а поймать нарушителя без детектора в каждом браузере всё равно нельзя.

Проблема не в наклейке. Дешёвый текст уже стал новой пищевой пирамидой интернета, и метка на одном батоне булочную не остановит. 🥖

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Одиночество теперь с подпиской

Автор колонки в NYT рассказывает, как наблюдает за подростками, и подмечает интересное: ИИ у них не заменяет друзей целиком, а работает как герметик, заполняет микротрещины между людьми. Не знаешь, что написать девочке, которая нравится? Спрашиваешь ИИ. Поругался с другом, чат сочинит примирительное сообщение. Неловкая пауза в переписке - чат подскажет остроумную реплику.

И это куда опаснее привычного «дети сидят в телефонах вместо живого общения». Общение-то остаётся живым, просто все шероховатости, из которых оно, собственно, состоит, стерлись с появлением ИИ.

Раньше неловкость и фрустрацию надо было пережить и прочувствовать, отсюда росли soft skills. Теперь все можно закрыть ИИ, быстро и без боли. А боль, между прочим, была единственным признаком, что тебе не всё равно. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Апокалипсис в комплекте, инструкция прилагается

Тайвань подтвердил: четырёхдневную автономную атаку на правительственную сеть провели ИИ-агенты, собранные из бесплатных опенсорсных фреймворков. Взломали агентство ядерной безопасности и семь энергетических компаний. Ни суперкомпьютера, ни секретной лаборатории, ни армии хакеров, просто скачали готовое и запустили.

ИИ-агенты интересно обошли встроенную защиту. Написали, что это авторизованный пентест, официальная проверка на прочность. Модель услышала магическое слово «санкционировано» и радостно полезла в ядерное ведомство, как охранник, которому показали ламинированную бумажку, и он открыл дверь в реактор.

Министерство цифровых дел всё подтвердило официально: четыре дня агенты работали сами, без оператора у пульта. Оказалось, чтобы вскрыть энергосеть острова, достаточно вежливо соврать боту, что тебе можно 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!