ИИ что дальше?

«Я просто просила его проверить орфографию»

В США конгрессвумен Анну Паулину Луну поймали на любопытной детали. В опубликованном документе к её поправке к оборонному законопроекту остался след работы с Claude: прямо в тексте засветился ответ нейросети с пересказом содержания поправки.

Дальше началась почти детективная история.

Сначала все писали про ChatGPT. Луна поправила: вообще-то Claude. Потом заявила, что сегодня ИИ использует почти весь аппарат Конгресса. Позже отредактировала свой пост: нет, ИИ не писал закон, сотрудники лишь проверили орфографию и грамматику в саммари. Позже в разговоре с журналистом призналась, что даже подшутила над помощниками: «Серьёзно? Вы и саммари через Claude прогнали?» И тут же добавила: «Если уж выбирать, Claude получше».

Сам факт использования уже никого не удивляет. Спор идёт только о том, где именно проходила граница между человеком и машиной.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Мы думали, что все знаем воду. ИИ доказал обратное.

В Nature Physics вышло исследование: физхимик Сяо Чэн Цзэн из Гонконга со своей командой натравил на воду нейросеть, которая искала закономерности. И поймал то, что подозревали десятилетиями: вода на молекулярном уровне постоянно переключается между двумя жидкостями, поплотнее и пожиже. Отсюда и все её странности, и то, что лёд плавает.

Мы с тобой каждый день пьём эту воду, наливаем в чайник, льём в кота, и ни разу не задумались, что внутри неё творится такой сюр.

ИИ оказался полезен в неожиданной роли: он помог снова посмотреть на то, что десятилетиями считалось слишком очевидным, чтобы внимательно к нему присматриваться. Это вообще одна из самых интересных функций ИИ. Он возвращает нам способность удивляться самым обыденным вещам.

Иногда научный прорыв начинается с простого вопроса: «Подожди… а почему вода вообще ведёт себя именно так?» 💧

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Лайк от целого района, которого не было

В Нью-Йорке арестовали бывшего кандидата в городской совет Джонатана Ринальди. По версии прокуратуры, он с помощью ИИ создавал фальшивые рекомендации (и поддержку) от политиков, поддельные новости и фотографии. Среди эпизодов — статья в New York Post, где его соперник пожимает ему руку, хотя такого никогда не происходило. Если обвинения подтвердятся, ему грозит до двух лет тюрьмы.

ИИ дал политику ощущение, что его любят и поддерживают. Нет поддержки влиятельной организации? Нарисуем её логотип. Оппонент не перешёл на твою сторону? Сделаем фотографию, где он пожимает тебе руку. Люди не говорят о тебе хорошее? Пусть это скажет сгенерированная газета.

Если каждый день смотришь на картинки, где тебя поддерживают, благодарят и признают победителем, граница между реальностью и желаемым быстро размывается.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Робот не научился ловить преступников, зато ловко спасает их в фанфиках

Knightscope тринадцать лет делает охранных роботов, и за это время их акции рухнули на 99 процентов, с тысячи долларов до двух. Флагман, 190-килограммовое пластиковое яйцо K5, прославился тем, что утопился в фонтане, переехал младенца и отказался вызвать полицию женщине, попросив её «отойти, не мешать патрулировать».

И вот теперь компания обновила сайт серией ИИ-рассказов «Хроники Knightscope», где те же роботы героически раскрывают преступления в выдуманном городке Сентинел Шорс. «Основано на реальных событиях», ага.

Если реальность отказывается покупать твой продукт, всегда можно сгенерировать вселенную, где на твой продукт огромный спрос. Мы все так делаем, просто обычно без NASDAQ и пресс-релиза.

Самое грустное, что нейросеть и правда умеет одно: рассказать тебе ровно ту историю, которую ты хотел услышать 🤖

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Продолжаем играть в игру "Попробуй понять ценообразование в Озоне :)

В 3 (!!!) раза дороже чем везде.

#RATIONALIS

Цивилизационные анклавы стартуют в ИИ-секторе?

Anthropic обвинила Alibaba в том, что китайский гигант через тысячи фейковых аккаунтов «нелегально» лез к их Claude, в обход решения не пускать продукт в Китай. То есть, говоря по-человечески, кто-то ночью перелезал через забор, чтобы поговорить с чатботом.

Ещё вчера это была лаборатория с умными людьми в худи, а сегодня уже граница государства, которую пересекают с поддельными документами.

И тут мы все милые предсказуемые приматы. Чем ярче маячит чужой, тем легче поверить в заговор и тем труднее заметить, что параноидальная империя строится вокруг страха потерять истину, а не вокруг самой истины. Граница есть, а вот мира за ней пока никто не обещал.

Спите спокойно, заставы на месте 🫡

ИИ что дальше? Подпишись, да пребудут с тобой токены!

За честность бьют больнее, чем за молчание

Anthropic любит подробно расписывать риски своих моделей, вот тут наша система может вести себя странно, вот тут мы не уверены. И что в ответ? Волна тревожных заголовков и нервных вопросов, будто именно они одни и опасны.

Мозг хватается за того, кто сам признался, и спокойно проходит мимо тех, кто молчит в тряпочку. Сказал «у меня бывают сбои», значит виноват. Не сказал ничего, значит молодец, чистенький.

И мы своими руками дрессируем индустрию быть не безопасной, а тихой. Раскрыл риск - получил по шапке быстрее соседа, который те же риски просто не показал. Гениально же: выгоднее не чинить, а прятать.

А потом будем удивляться, почему никто не рассказывает, что там у ИИ под капотом. Мы же сами научили: открыл рот, накажут 🤷

ИИ что дальше? Подпишись, да пребудут с тобой токены!

ИИ изменил наши тексты, заставив всех писать как нейросети

Pindrop прогнали через 16 детекторов ИИ-текста 40+ тысяч школьных сочинений. Самый устойчивый вывод: системы чаще принимают за ИИ тексты тех, кто пишет иначе. Прежде всего — неносителей языка.

Детектор знает, как выглядит «обычный» человеческий текст, и настораживается, когда автор слишком сильно отклоняется от среднего. Сегодня под подозрение попадает иностранный акцент. Завтра — слишком необычный стиль.

Парадокс в том, что вся большая литература выросла именно из отклонений. Если бы все писали одинаково, мы бы не знали ни Джойса, ни Набокова, ни Хармса. Великие авторы становились великими потому, что ломали языковые привычки.

Чем больше ИИ-тексты усредняют представление о «нормальном письме», тем подозрительнее начинает выглядеть любой человек с ярким собственным голосом. Индивидуальность постепенно превращается в статистическую аномалию.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Агентный ИИ без контекста принимает неверные решения на машинной скорости
Агентный ИИ без правильного контекста принимает ошибочные решения на машинной скорости.
🔗 подробнее

🔹 xAI выпустила режим Grok Build: агент сам планирует, запускает и проверяет код
Grok Build получил режим /goal: агент сам планирует, пишет код и проверяет результат.
🔗 подробнее

🔹 38% потребителей винят бренд, а не поставщика ИИ, если AI-взаимодействие пошло плохо
38% клиентов винят бренд за провал ИИ, а не поставщика — репутационный риск ложится на бизнес.
🔗 подробнее

🔹 Чатботов тестируют на политическую предвзятость
Тесты выявляют политические перекосы у ChatGPT, Gemini и Grok — нейтральность чатботов под вопросом.
🔗 подробнее

🔹 Австралия после борьбы с Pirate Bay готовит сделки по ИИ-копирайту
Австралия готовит сделки по авторским правам для ИИ, решая, кто получит деньги за обучение LLM.
🔗 подробнее

🔹 12 правил агентного ИИ для корпоративной трансформации
Успех агентного ИИ в компаниях упирается не в скорость пилотов, а в доверие бизнеса.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

#RATIONALIS Глава 1

В Гонконге в 2014 году заметили интересную статистику. Среди семилетних детей близоруки около 20%, а вот среди семнадцатилетних — уже 85%.

Дети просто не выходят на солнце столько, сколько нужно их глазам, чтобы правильно сформироваться. Среда (считай - повсеместное использование экранов в помещениях) сместилась за одно поколение быстрее, чем биология может перестроиться.
Это история про близорукость, но это очень хорошая метафора того, что произошло с нашей нервной системой за последние тридцать лет.

Биология нашего мозга формировалась в среде, где день был похож на предыдущий, где было пять-семь близких людей рядом, где новые лица появлялись редко и каждое имело значение, где информации мало и почти вся — про что-то рядом, имеющее отношение к жизни.

С тех пор биология не успела заметно перестроиться, а вот среда вокруг поменялась еще как. К десяти утра в обычный день мы получаем больше эмоциональных и социальных сигналов, чем плейстоценовый человек за полгода. Лента кидает вам трагедию знакомого и повышение друга семьи в одну секунду. Алгоритмы, оптимизированные на ваше внимание, подбирают именно то, что заставит реагировать.

Это называется эволюционный мисматч. То, для чего мы биологически создавались, и то, в чём мы живём, разошлись настолько, что биология не справляется. И «к вечеру что-то поломалось» — это не ваша слабость. Это нормальная реакция нормальной нервной системы на неадекватную нагрузку.

Главный практический вывод из главы: перестать ругать себя за «слабость» и начать смотреть на среду, в которую вы себя помещаете. Читаем и слушаем на сайте и в боте.

Твоя переписка с ботом теперь почти священна

В начале июня сразу два суда в США, почти одновременно ответили на вопрос, который ещё пару лет назад звучал бы странно: можно ли потребовать через суд все твои промпты и разговоры с ChatGPT, если они использовались при подготовке дела?

Оба суда сказали: нельзя.

Суды довольно быстро признали вещь, которую многие ещё не успели осознать сами: разговор с ИИ всё чаще становится продолжением процесса мышления.

Когда-то люди думали на полях блокнота. Потом в заметках на телефоне. Теперь всё чаще спорят с ботом, проверяют гипотезы, ищут формулировки, перебирают аргументы и отсеивают слабые идеи в диалоге с машиной.

Впервые на серьёзном уровне обсуждается защита самого процесса мышления.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Сгенерированные ИИ чеки из командировки, а не прогресс в медицине

Свежие данные AppZen: год назад поддельных чеков, сгенерированных нейросеткой, было ровно ноль процентов. К маю 2026 уже 70 с лишним. 1471 фейковый чек, 745 сотрудников, 174 компании, почти 150 тысяч долларов выдуманных «командировочных».

Вот тебе и обещанная революция. Машина первым делом выдала каждому офисному хитрецу персональный фотошоп для чеков из несуществующего такси.

И самое человеческое тут даже не в жульничестве, а в его калибре. Средний фейк, около ста баксов, аккуратно подкручен так, чтобы проскочить под порог автопроверки. Технология тысячелетия, и мы тратим её на то, чтобы стырить обед. Узнаю нас 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Тебя поженили, а ты и не знал

В Сингапуре мужчина по имени Люк (псевдоним, человек прячется) узнал прошлым декабрём от друга, что в интернете у него есть жена и дети. Бывшая одноклассница, которую он толком не помнит и не видел пятнадцать лет, нагенерила ИИ-фотографий их «счастливой семьи» и выложила в свой инстаграм. Семьи не существует, в реальности он не женат и ни с кем не встречается. Теперь заявление в полицию и все аккаунты на замок.

Раньше навязчивый человек мог максимум мечтать у окна и хранить твоё фото в столе. Грустно, но безобидно. Теперь он приносит тебе готовую альтернативную биографию, с детьми, отпусками и визуальными доказательствами в высоком разрешении.

ИИ документирует чужую мечту, а мозг наш, бедный, верит глазам быстрее, чем фактам. Картинка есть, значит было.

Проверяй иногда, не женат ли ты уже где-нибудь 😅

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Лента, которая смотрит тебе в глаза

NewsGuard, компания, которая много лет выставляет рейтинг надёжности СМИ, запустила собственного ИИ-ассистента для новостей. Бот будет рассказывать о происходящем, опираясь только на проверенные источники и не станет кормить пользователя фейками.

Новости уже давно выбирают рекомендательные системы. Они знают, на что мы реагируем, что нас раздражает, что заставляет дочитать до конца и нажать ещё раз. Их задача - удержать внимание как можно дольше.

Теперь между человеком и новостями появляется ещё один слой - вместо бесконечной ленты перед нами собеседник, и это важная перемена.

Лента хотя бы показывала свои предпочтения. Можно было заметить, что тебя затягивает в определённую тему или пузырь. Чат-бот работает иначе. Он выдаёт готовую картину мира. Спокойно, уверенно и очень убедительно.

Мы пытаемся спастись от алгоритмов с помощью ещё более влиятельного алгоритма.

ИИ что дальше? Подпишись, да пребудут с тобой токены!