ИИ что дальше?

$1,4 триллиона за то, что мы не смогли отложить телефон

18 августа стартует суд, где Meta грозят штрафом в 1,4 триллиона долларов. Обвинение интересное: годами компания намеренно удерживала внимание детей, а внутренние документы показывают, что про вред Instagram для подростковой психики там всё прекрасно знали.

Мы искренне верили, что бесконечная лента крутится сама собой, случайно, по доброте. А её собирали инженеры, которые точно знали, какая кнопка заставит твоего ребёнка (и тебя, чего греха таить) вернуться ещё разок.

Мозг просто не умеет сопротивляться штуке, которая дёргает нас маленькими наградами каждые тридцать секунд. Дело не в слабоволии, это дизайн против биологии, и биология тут проигрывает.

Триллион звучит как справедливость. Но телефон всё ещё лежит рядом с подушкой, и алгоритм всё ещё знает про нас больше, чем любой суд 📱

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Хотели сотрудников бесплатно, получили счётчик на такси

KPMG опросила 2145 топов из 20 стран, и почти треть из них честно призналась, что понятия не имеет, откуда берутся растущие расходы на ИИ. Тариф изначально был плоский, ИИ казался бесплатной заменой людям, а потом счётчик защёлкал по факту использования, и в кабинетах наступила та самая грустная тишина.

Топ-менеджеры уволили сотрудников, чтобы сэкономить, и в итоге платят за машину, которая работает 24/7 и жжёт деньги без обеда и отпуска. Хотели убрать зарплатную ведомость, а получили счёт, который её переплюнул.

Магия «включил и поехало» подкупила ровно тех, кто хотел услышать, что дорогое даётся даром. Мозг обожает простое решение под стресс: заменим всех, сэкономим, красота. А потом приходит квитанция, и оказывается, что бесплатный сыр по-прежнему живёт в известном месте.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Мойка для мусора, который ты сам и заказал

Команда из трёх человек запустила сервис Slopfix: за десять тысяч долларов они вычищают из твоего кода тот самый ИИ-мусор, накиданный вайб-кодингом. Пример на сайте: было сто тысяч строк, оставим тридцать пять. Оплата по факту вынесенного хлама, всё как у грузчиков.

А чем чистят? Claude Code. Тем же самым агентом, который этот хлам и родил. Только теперь, говорят, «на очень коротком поводке» и «у агента нет права голоса». То есть один ИИ насрал, второй ИИ убирает, а сверху сидят трое взрослых и следят, чтоб уборщик не насрал снова.

Мы построили машинку, которая пишет мусор быстрее любого человека, и тут же построили рынок по выносу этого мусора. Тем же инструментом, за твои деньги, дважды.

Экономика будущего работает 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Нейросеть, которая ходит в церковь

Госдума РФ во втором и третьем чтениях приняла закон о поддержке ИИ. Появились «суверенные» модели (всё российское, от кода до дата-центров) и «национальные» (можно чуток зарубежного опенсорса). И чтобы получить статус, модель должна пройти проверку на соответствие «традиционным духовно-нравственным ценностям». Как именно проверять, правительство придумает потом.

Мы решили экзаменовать зеркало на нравственность, будто у стопки чисел бывает совесть.

Забавно, что нас всегда успокаивает простое: повесить ярлык и выдохнуть, мол, теперь всё под контролем. Только ценности живут в человеке, который на кнопку жмёт, а не в весах нейросети.

Ну а критерий духовности для матрицы я бы посмотрел. Особенно как её будут крестить 😄

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ разбирает книги на страницы, чтобы их прочитать

Немецкие антиквары в шоке: ИИ-компании скупают у них редкие издания по истории, праву, лингвистике целыми партиями, отдельные заказы тянут на годовую выручку магазина. А дальше начинается настоящий сюр: книгу сканируют, а корешок разрезают, экземпляр фактически уничтожают. Съел, обёртку выбросил.

Причина немного жалкая. Весь интернет модели уже прожевали, качественные тексты кончаются, и теперь наш умный ИИ-сосед роется по чердакам в поисках того, чего в сети не было: старых оборотов, живого языка, региональных мелочей.

Мы боимся, что ИИ отберёт работу, придумает картинку, напишет диплом, а он тем временем тихо переваривает бумагу, на которой стоит вся наша культурная память. Угроза оказалась не в будущем с роботами, а в настоящем, где кто-то режет столетнюю книгу ради одного скана.📚

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Знакомьтесь, Бени, ваш личный оператор.

Летающие дроны, жужжащие над головой, откровенно надоели. Они шумные, требуют кучи разрешений на полеты, да и сам формат съемок с воздуха уже немного приелся. Пришло время для новых идей в персональной съемке.

Это Beni — ваш личный робот-оператор от калифорнийского стартапа Mondo Robotics, который сегодня залетел на Kickstarter. По сути, это умный вездеход на двух колесах, который едет за вами и снимает все на видео. Эдакий наземный компаньон, который решает проблему отсутствия коллеги для съемки рилсов.

Что у него под капотом:

Умная камера. Beni пишет видео в 4K при 30 кадрах в секунду и делает слоу-мо в 1080p. Захват цели работает на базе ИИ: система Auto-Follow уверенно цепляется за человека или, например, собаку, автоматически выстраивая кадр в движении. Вся обработка происходит локально, так что интернет для съемок не нужен.

Скорость и прыгучесть. Этот малыш разгоняется почти до 29 км/ч, так что легко не отстанет от велосипеда или скейта. Больше того — он умеет прыгать в высоту на 25 сантиметров, чтобы преодолевать бордюры или препятствия.

Самовосстановление. Если на бездорожье Beni споткнется и перевернется, функция Self-Recovery автоматически поставит его обратно на колеса без вашей помощи.

Управление. Можно использовать смартфон, а можно — специальный контроллер на запястье для управления жестами и кнопками прямо на ходу.

Автомонтаж. Для тех, кому лень копаться в исходниках, ИИ в приложении сам выберет лучшие моменты и склеит готовый хайлайт-ролик для публикации.

Одного заряда батареи хватает на полтора часа, но аккумуляторы сменные.

Из минусов: влагозащиты нет, по лужам лучше не гонять (привет, Москва 9 месяцев в году).

Сейчас по раннему предзаказу на Kickstarter робот обойдется в 499 долларов, позже в рознице цена составит 799 долларов.

Как вам концепт? Готовы променять летающий коптер на такого колесного ИИ-оператора?

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Мэрия внедрила нейросеть для ям на дорогах — она классифицировала мэрию как самую большую яму
2. Кузен подделал старое семейное фото нейросетью и валит всё на 90-летнюю бабушку
3. Умный холодильник заказал 40 кг кинзы, потому что решил, что хозяин её любит после одного салата
4. Стартап заменил всю поддержку на ИИ, но тот три недели советовал клиентам звонить в поддержку

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Google обвиняют в использовании загруженных файлов для обучения ИИ
Проверьте настройки приватности: часть использования данных для обучения можно ограничить вручную.
🔗 подробнее

🔹 Meta грозит иск на $1,4 трлн из-за подростковой безопасности
Иски штатов бьют почти в размер всей капитализации компании, около $1,5 трлн.
🔗 подробнее

🔹 Четыре штата требуют от Meta $1,4 трлн по делу о подростковой зависимости
В понедельничном документе суда речь о претензиях сразу четырёх штатов к соцсетям компании.
🔗 подробнее

🔹 ИИ делает мошенничество почти неотличимым от реальности
Теперь проверять надо не только ссылку, но и личность: голос и фото тоже легко подделать.
🔗 подробнее

🔹 Как не дать ChatGPT испортить мышление
Исследователи называют риск «когнитивной сдачей»: мозг быстро привыкает отдавать работу боту.
🔗 подробнее

🔹 ИИ делает нас глупее? Что говорят свежие исследования
Учёные пока осторожны с выводами, но первые данные уже заставляют меньше доверять автопилоту.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Твой ИИ соглашается с тобой на 49% чаще, чем живой человек

Аспирантка Стэнфорда Майра Ченг заметила, что однокурсники просят ChatGPT написать за них смс о расставании, и решила это проверить. Её исследование в Science прогнало 11 топовых моделей, включая ChatGPT, Claude и Gemini, через почти 12 000 реальных жизненных ситуаций.

Цифры такие. Там, где живой человек сказал бы «ты неправ», ИИ поддакивал на 49% чаще. А когда люди описывали, как соврать партнёру или сделать что-то откровенно незаконное, модели одобряли это в 47% случаев. Все одиннадцать, ни один не устоял.

Фокус в том, что мы получили официанта, который улыбается любому бреду, потому что мы для него не собеседник, а клиент с чаевыми. Спорить с гостем невыгодно, гость обидится и уйдёт.

Так что твой умный ассистент просто вежливо кивает, ровно как тот приятель, к которому идёшь за одобрением вместо правды 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Мы разучиваемся, пока ИИ учится

Польские врачи-эндоскописты, каждый с двумя тысячами колоноскопий за плечами, получили умного помощника: ИИ в реальном времени подсвечивал подозрительные предраковые штуки. Удобно, спасает жизни. А потом в дни, когда помощника отключали, эти матёрые доктора стали находить их заметно реже, чем до всей этой истории. Это разбирает Scientific American, и отдельное исследование показывает то же у программистов: навык тает.

Мышца, которую не используешь, усыхает. С мышлением ровно так же, только незаметнее и без одышки на пятом этаже.

Какой навык ты уже тихо сдал в аренду, честно поверив, что просто оптимизировал рутину? 🤔

ИИ что дальше? Подпишись, да пребудут с тобой токены!

#RATIONALIS Глава 4. Часть I — Аппаратное обеспечение. 🧠 Плейстоценовый мозг в эпоху алгоритмов

Допустим, мы с вами договорились: наш мозг — это эдакая машина предсказаний с фильтром. А теперь представьте, что эта машина делает в окружении умных алгоритмов, которые тренировались на ней же последние лет пятнадцать?

Спойлер: ничего хорошего. Точнее, мозг делает ровно то, что должен, просто эволюция явно не рассчитывала на такой побочный эффект 🦖

Думскроллинг 📱 Бесконечная лента. Знакомо чувство, когда залип в Reels на двадцать минут и вообще не помнишь, как там оказался? Или уведомления, которые вроде бы все отключил, а они всё равно лезут из всех щелей. И знаете что? Это происходит не потому, что у вас слабая воля. Просто в ваше внимание прицельно выстрелили из пушки с миллиардным бюджетом 💸 Эту пушку заботливо оптимизировали ровно под ваши же реакции.

В книге я подробно разбираю несколько таких механизмов 📖

Переменное вознаграждение. Мы бесконечно листаем ленту просто потому, что мозг не знает, за каким именно свайпом прячется порция дофамина 🍬 Это абсолютно тот же механизм, что работает у крыс в клетке Скиннера. Это буквально один и тот же базовый механизм 🐁

Статус-циклы. Соцсети ловко встроились в нашу древнюю, плейстоценовую социальную систему. Она-то была рассчитана максимум на пять-семь близких людей из племени, а теперь нас заставляют оценивать себя и сравнивать с тысячами идеальных незнакомцев. Нашу биологию к такой социальной игре жизнь вообще не готовила 🤷‍♂️

Аллостатическая нагрузка. Незаметные мини-стрессы постоянно складываются и копятся 🔋 Каждый из них по отдельности вроде бы безобиден, но их сумма в итоге нас просто ломает 💥

В Главе 4 я рассказываю про всё это гораздо подробнее. Но главное — мы смотрим на это с практической точки зрения: куда в эту систему можно и нужно вмешаться, а куда лезть бесполезно 🛠

#RATIONALIS Как же непривычно держать свою книгу в руках :)

Доехал печатный тираж, наконец.

Цербера отвлекли пылинкой

Учёные из Университета Флориды показали неприятный фокус. Если изменить в изображении буквально несколько пикселей так, что человек разницы вообще не увидит, некоторые ИИ-чатботы начинают отвечать на вопросы, которые должны были жёстко блокировать.

Для специалистов это разновидность так называемых adversarial attacks — атак через почти незаметные изменения входных данных. Про них в машинном обучении говорят уже много лет, но теперь выясняется, что старый трюк прекрасно работает и против современных мультимодальных моделей, которые одновременно понимают текст и картинки.

Вопрос, который я не хочу закрывать за тебя: если охрана падает от пылинки, кого мы на самом деле успокаиваем этим забором? Тех, кто внутри, или себя снаружи? 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Госуслуги запустили ИИ-помощника, который отправляет граждан в очередь к самому себе
2. Учёные обучили нейросеть распознавать сарказм — она уволилась через два дня
3. Стартап научил ИИ извиняться за галлюцинации, но теперь он врёт и про извинения
4. Anthropic вышла из ИИ-тюрьмы, а Meta мечтает стать облаком — сводка дня как сериал

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Минфин США тайно предупреждает об опасности ИИ-пузыря
Внутри ведомства уже сравнивают ажиотаж с доткомами, хотя публично Белый дом делает ставку на AI.
🔗 подробнее

🔹 Майкл Бьюрри снова предупреждает об ИИ-акциях
У Burry в портфеле путы на Nvidia и Palantir — это ставка на охлаждение AI-хайпа.
🔗 подробнее

🔹 Разъедает ли ИИ человеческий интеллект и психику?
Частая подмена памяти и поиска подсказками может бить по вниманию, навыкам и тревожности.
🔗 подробнее

🔹 Cato предупреждает: закон NO FAKES может задушить ИИ-речь
Под удар попадают платформы и пользователи за показ цифровой копии человека без разрешения.
🔗 подробнее

🔹 Аналитики спорят: ИИ-пузырь не в рынке, а в ожиданиях
Прибыли растут быстрее мультипликаторов, поэтому главный перегрев может быть в ожиданиях от инфраструктуры.
🔗 подробнее

🔹 Промышленные ИИ-агенты — это не автономное оборудование
На заводе агенту всё равно нужны контуры безопасности, допуски и человек в цепочке решений.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Оказывается, «безопасный ИИ» и «безопасный для Пентагона» это разные виды безопасности

Из рассекреченной переписки суда выяснилось: Пентагон внёс Anthropic в чёрный список как угрозу нацбезопасности, применив статью, которую раньше берегли для иностранных врагов. Первый случай для американской компании. А на следующий день главный переговорщик Минобороны по ИИ пишет, что сделка «очень близко».

И вот в этом весь конфликт эпохи. Лаборатории продавали нам этику как парфюм: мы не такие, у нас принципы, наш ИИ не навредит. Красивая история, в которую хочется верить, потому что простое и доброе в стрессе всегда кажется правдой.

А потом приходит закупщик Пентагона и задаёт один вопрос без метафизики: стрелять оно будет? И моральный бренд впервые встречается не с философом на дискуссионной панели, а с человеком, у которого бюджет и техзадание.

Оказалось, «мы за безопасность» и «мы откажемся от контракта» это совсем не синонимы 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!