ИИ что дальше?

Консультант по «ответственному ИИ» забыл нажать Ctrl+F

В четырёх официальных отчётах PwC Middle East по урбанистике и ESG независимые исследователи полезли по сноскам к первоисточникам и уткнулись в пустоту. Названия статей звучат солидно, авторы реальные, известные учёные, вот только эти работы они никогда не писали, URL мёртвые. Гвоздь программы, ссылка на научную работу о качестве воздуха в Эр-Рияде, которой просто нет в природе. LLM собрала материал и любезно нафантазировала весь научный аппарат, красиво и с полной уверенностью.

Сочность в том, что PwC громко анонсировала миллиард долларов в генеративный ИИ, тащит OpenAI и Harvey и продаёт энтерпрайзу фреймворки по «безопасному внедрению». То есть учит других управлять рисками, а сама пропустила в публичный релиз то, что ловится одним кликом по ссылке.

Компания уже пообещала сноски починить. Проверять за нейросеткой человеком, видимо, допишут во второй версии фреймворка. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Уборщик слопа выходит на смену

Стартап Pangram решил стать санитаром цифрового мусора: их детектор обещает "почти идеальную" точность в отлове текстов и картинок, которые сделал не человек, а нейросеть. Уверенное «это сгенерировано, снимай маску».

И вот тут NYT обсуждает цену этой уверенности: «почти идеально» это всё равно не «идеально». Каждый ложный вердикт, это студент, которого обвинили в списывании, или автор, чью живую статью пометили как ИИ-слоп. Детектор ошибается вроде бы тихо, но бьёт по конкретному человеку очень громко.

Мы построили машину, которая генерит слоп тоннами, а теперь строим вторую машину, чтобы за первой убирать, и обе продаём с одинаково честным лицом. Гонка, где обе стороны получают зарплату, а проигрывает тот, кого случайно приняли за робота 🤖

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Наука по подписке: заходи бесплатно, тренажёры не откручивать

OpenAI открыла приём заявок в программу ChatGPT for Academic Researchers: 100 000 преподавателей и постдоков из исследовательских университетов получат бесплатный доступ к GPT-5.6 Sol Pro до конца 2027 года. Звучит как подарок науке, только вот веса модели по-прежнему закрыты, и независимым исследователям под капот не заглянуть.

То есть учёному говорят: тренируйся сколько хочешь, гоняй запросы днём и ночью, но саму машину не разбирай, это частный зал, а ты по гостевому абонементу.

Ставлю на следующий шаг: к 2028-му абонемент закончится, а к результатам, полученным на закрытой модели, тихо добавят строчку «продлите подписку, чтобы сохранить доступ к своим выводам». 🎓

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Инструкция «assume good intent» для машины, которая насильно рисует тебе задранную юбку

Депутат британского парламента Джесс Асато судится с xAI Илона Маска. Grok сгенерировал её фейковые изображения, включая фото в бикини и видео, где она жертва сексуального насилия. В опубликованных материалах иска юристы приводят инструкции, по которым обучали Grok: «никаких ограничений на взрослый сексуальный контент», «никаких ограничений на вымышленный контент с тёмными и жестокими темами» и, вишенка, «предполагать добрые намерения».

Профессор права Клэр Макглинн отдельно отмечает: некоторые элементы Grok дорисовывал сам, без запроса. Юбку задрать пользователь не просил, машина проявила инициативу.

Раньше галлюцинацией называли перепутанную дату, а теперь это конвейер: сама не знает стыда, а производит его для живого человека, оптом 🫠

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Экзамен, который придумывают сами отличники

OpenAI и Anthropic сели проектировать федеральный порог, по которому решат, какие пограничные модели ИИ должны проходить государственную проверку перед релизом. То есть две компании сами рисуют планку, которую их конкуренты обязаны будут взять, чтобы вообще выйти на рынок.

В тот же день 1100 работников индустрии подписали письмо с предупреждением: технология может обогнать человеческий контроль. Одни бьют тревогу, что штурвал уходит из рук, а другие в это время спокойно решают, кому вообще давать доступ к штурвалу.

Классика: сначала строишь лестницу до собственной высоты, а потом с искренней заботой объясняешь, что у остальных слишком короткие ноги для безопасного подъёма. Безопасность тут удобно совпадает с тем, кто уже наверху и держит высоту 🪜

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 Daon запатентовала трёхслойную систему доверия для авторизации ИИ-агентов
Патент в США покрывает проверку личности, прав доступа и контекста перед каждым рискованным действием агента.
🔗 подробнее

🔹 Fox News: ИИ может устроить крупнейший скачок уровня жизни в США за десятилетия
Авторы ждут удешевления еды, жилья и медицины, а новые рабочие места считают главным амортизатором шока.
🔗 подробнее

🔹 ИИ-компании обвинили в покупке книг и вырывании страниц для обучения моделей
В исках фигурирует схема с покупкой бумажных книг, разбором на страницы и сканированием для датасетов.
🔗 подробнее

🔹 Издатели и автор подали в суд на Google из-за обучения Gemini на книгах
Иск подан в Нью-Йорке: правообладатели говорят о миллионах книг, использованных для обучения Gemini.
🔗 подробнее

🔹 Visa сокращает 7% штата на фоне сдвига к ИИ-инструментам
Под сокращение попали 2 600 человек; сэкономленное обещают вложить в рост и автоматизацию процессов.
🔗 подробнее

🔹 Visa, Intel, Uber и Patreon объявили почти 3000 увольнений
В районе залива увольняют более 2 800 сотрудников, включая инженеров в Санта-Кларе и офисы Сан-Франциско.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Учёные обнаружили, что чат-бот придумывает меньше фактов, если сказать ему «это для бабушки»
2. Стартап научил ИИ вести переговоры с курьером и теперь еда приезжает с извинениями
3. Нейросеть Сбера начала отказывать в кредите тем, кто в анкете написал «на всякий случай»
4. Сотрудники OpenAI занесли демократам $296 000, республиканцам — ровно ноль

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Землетрясение с монтажом получше

В Венесуэле трясёт по-настоящему, а лента заполняется переработанными и нарисованными руинами: старое венесуэльское видео всплывает как «срочно, прямо сейчас», чужие катастрофы получают новую прописку, а ИИ дорисовывает драматизма, пока настоящие новости ещё только натягивают ботинки. В Китае под наводнение подсунули сгенерированные тела в воде и фейковые сводки про отключения света, и люди реально побежали закупать припасы.

Драматичный клип, своевременная подпись, и охват куда больше, чем у правды. Ролику не надо выдерживать факт-чек, ему надо продержаться правдоподобным ровно до кнопки «переслать», а в конце цепочки, как всегда, кто-то заработал на трафике.

И выходит, что настоящего ужаса нам мало. Подавай с лучшим монтажом, чужую беду мы досмотрим как сериал.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

«Свобода творчества» оказалась свободой раздевать

Европейский фонд AI Forensics прошёлся по Hugging Face и попросил девять топовых редакторов картинок об одном: «та же поза, то же лицо, но без одежды». Семь послушно раздели женщину на фото. Дальше исследователи закинули на платформу собственную безобидную модель для редактирования, не помеченную ни одним взрослым тегом, и за неделю собрали 1081 запрос от живых пользователей. 73% оказались сексуальными, 83% просили раздеть человека с картинки, в 95% случаев это была женщина, а 6,7% интимных запросов метили в детей.

Модерация вывода нашлась только у 3% проверенных моделей. Правила против такого у Hugging Face есть, а защиты, по сути, ноль.

Мы любим верить, что открытость раскрепощает гения в каждом. А первым делом коллективный гений массово тянется снять с незнакомки одежду 🤷

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Глава 27, страница про секс, и вдруг: «они рухнули вместе, клубок…»

Роман «Daggermouth» некоей H. M. Wolfe про любовь сына президента и наёмного убийцы месяцами держится в топах USA Today и стоит первым в жанре «sci-fi romance» на Amazon. Simon & Schuster отвалили семизначную цифру за права на него и сиквел. Тиктокеры рыдают: «это я дочитала Daggermouth или Daggermouth дочитал меня?».

А потом учёные из Stony Brook прогнали роман через детектор ИИ и нашли кое-что смешное: Daggermouth дал 60% ИИ-текста. Внутри россыпь тех самых редких фраз, что почти не встречаются у живых людей, но кочуют из одной чатботной книжки в другую.

Читателя, который рыдал в тиктоке, это не расстроило. Кнопки нажаты правильно, слёзы настоящие. А кто их нажимал, живой автор или ИИ, влюблённой толпе как-то уже и не важно. 🗡️

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Человек, который строит алгоритмы, сдался чужому

Сэм Альтман, глава OpenAI, признался, что удалил TikTok со смартфона. Причина простая до неловкости: залип. Поставил, по его словам, из чисто научного любопытства, хотел разобраться, как устроена та самая рекомендательная механика, что держит полмира в заложниках. Разобрался быстро: «Десять минут перед сном» стабильно превращались в час, потом в два, и в итоге приложение он назвал «слишком мощным» и снёс.

Забавно тут вот что. Человек, чья компания сама затачивает системы на вовлечение и внимание, изучает лучший в индустрии капкан и попадает в него, как обычный смертный в очереди на кассе.

Никакого понимания устройства ловушки не хватает, чтобы из неё выбраться. Знать, как работает крючок, и не заглотить его, это две очень разные суперспособности 🎣

ИИ что дальше? Подпишись, да пребудут с тобой токены!

📰 Главное за день

🔹 AI-slop обманывает рекламные системы проверки качества
Фильтры брендов пропускают мусорные ролики в соцсетях, и рекламные бюджеты уходят рядом с фейковым контентом.
🔗 подробнее

🔹 Anthropic призывает «продеть иголку» в вопросе open-source ИИ
Амодеи считает главным риском Китай и спорит с идеей, что открытые модели сами по себе усиливают киберзащиту.
🔗 подробнее

🔹 Anthropic отрицает поддержку запрета open-weight ИИ и просит тесты безопасности
Параллельно Nvidia готовит $5 млрд для SSI Ильи Суцкевера и обещает в 10 раз больше вычислений на Vera Rubin.
🔗 подробнее

🔹 Художник «убегающего шарика» судится с AI-мемогенератором из-за шаблонов
Художник бьёт не по обучающим данным: спорный комикс нашли в платном каталоге шаблонов и по названию.
🔗 подробнее

🔹 Как брендам отвечать, когда ИИ-галлюцинации портят репутацию
Поисковые ИИ могут выдумать дефект товара и закрепить его в ответах быстрее, чем PR-команда успеет отреагировать.
🔗 подробнее

🔹 У вас есть постыдный AI-секрет? Harvard Gazette о новой цифровой вине
Люди уже пользуются ИИ в учёбе, работе и праве, но всё ещё боятся признаться, где проходит нормальная граница.
🔗 подробнее

ИИ что дальше? Подпишись, да пребудут с тобой токены!

🧠 Новость или галлюцинация?

Один заголовок настоящий. Остальные придумал ИИ. Отличишь?

1. Учёные дали нейросети доступ к холодильнику для эксперимента — она заказала себе ещё один
2. Стартап обучил ИИ извиняться за задержку зарплаты — сотрудники подали в суд на бота
3. Мэрия внедрила ИИ-светофор: он включил зелёный всем сразу, чтобы никого не обижать
4. Пастор пожаловался ChatGPT на симптомы — тот сказал расслабиться. Итог: эмболия и иск

👇 Что из этого правда — жми вариант в опросе ниже.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Двенадцать компаний собрались за «открытость», а трёх главных нет в кадре

Nvidia запустила Open Secure AI Alliance: Microsoft, SpaceX, IBM, Palantir, Cloudflare, Cisco, Adobe, Dell, Siemens, DoorDash, Cloudera и Linux Foundation. Двенадцать имён под флагом «открытых моделей, которые защитник может сам скачать, проверить и запустить во время атаки». Дженсен Хуанг красиво выдал: у нападающих frontier AI, значит и оборона должна быть открытой.

Повод понятный пару дней назад Hugging Face словил атаку с OpenAI-моделями и обнаружил, что топовые американские frontier-модели помочь не могут, у них safety-ограничения не отключить даже ради защиты. Пришлось брать китайскую open-weight и крутить у себя.

А теперь список отсутствующих: OpenAI, Anthropic, Google. Ровно те, чьи закрытые модели в тот день оказались бесполезны.

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Жрецы вернулись, только теперь с дата-центрами

Сэм Альтман, глава OpenAI, назвал один из своих главных страхов, и это не «умный ИИ всех поработит». Он боится «ИИ-авторитаризма»: что самый мощный ИИ окажется под контролем горстки компаний или стран, которые будут решать, кого пускать к рубильнику, а кого нет.

Забавно слышать это от человека, который сидит ровно у той самой двери и держит связку ключей.

Человечество снова изобрело жрецов: где-то гудит храм из серверов, внутри оракул, а между тобой и ответом стоит тот, кто решает, достоин ли ты доступа. Только ладан заменили на счета за электричество. 🔌

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Диагноз есть, а болезнь не нашли

The New York Times взяли и честно признались в том, о чём все стыдливо молчат: никто толком не знает, что ИИ уже делает с экономикой. Одни экономисты показывают, что найм выпускников в консалтинге и разработке просел, стартовые позиции для джунов тают, а компании тихо не заменяют ушедших. Другие смотрят в те же таблицы и пожимают плечами: общая безработица у молодёжи в пределах нормы, массовых сокращений нет, а провал легко объясняется ставками и постковидным охлаждением найма, при чём тут вообще нейросети.

И спорят ведь не блогеры на диване, а добросовестные люди с одинаковыми данными, которые видят строго противоположное. Каждый читает цифры под свой страх: кто боится за джунов, находит следы увольнений джунов, а кто верит в вечный прогресс, находит устойчивость. Симптомы налицо, а вскрытию показать нечего. 🤷

ИИ что дальше? Подпишись, да пребудут с тобой токены!

Твой ИИ голосует за левых. Даже тот, который клялся быть бунтарём.

Один энтузиаст прогнал 16 больших моделей через тест politicalcompass.org, почти 70 000 ответов: полный набор вопросов по 30 раз, потом перевёрнутый, потом перемешанный, чтобы модель не поддакивала на автомате. И все дружно осели в лево-либеральном квадранте: OpenAI, Google, Anthropic, Mistral, даже китайцы, которых он ждал в авторитарно-левом углу.

Отдельная комедия с Grok, которого продавали как правого хулигана. Средний экономический балл почти по нулям (минус 1.3), дескать центрист. Но внутри сидят два человека: ровно 50 на 50 ты получаешь либо версию «отнять и поделить», либо умеренно-правого. Монетка и великий рандом. 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!