Шурыгин.IT

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
В моем родном городе Кемерово состоялось большое событие – стратегическая сессия по развитию креативных индустрий «Культурный код Кузбасса». Вместе с губернатором Ильей Середюком, главой города Дмитрием Анисимовым и представителями самых разнообразных творческих профессий обсудили, какие возможности для талантливой молодежи открываются сегодня при содействии государства. Специальным гостем мероприятия стал Алексей Гореславский, он предложил нашим креативщикам новую точку роста – фестиваль индустриального контента.

▪️Людмила Богатырева @government_IT
Верховный суд утвердил концепцию внедрения искусственного интеллекта в российское судопроизводство. К 2030 году ИИ хотят использовать на всех этапах работы с делом — от подачи документов до обжалования решения. Но заменять судью алгоритмом не планируют: последнее слово должно оставаться за человеком. К 2030 году ИИ-сервисами должны регулярно пользоваться более 95% судей. Алгоритмы будут готовить не менее 90% протоколов заседаний и от 30 до 50% проектов процессуальных документов. Сроки рассмотрения типовых дел рассчитывают сократить на 20–30%.

▪️Олег Капранов @toxic_digital
Владельцем крупнейшей игровой компании России «Леста Игры», издающей «Мир танков» и «Мир кораблей», может стать Никита Мазепин — бывший известный автогонщик и сын экс-совладельца «Уралкалия» и основного акционера «Уралхима» Дмитрия Мазепина. Будет ли Леста в таком случае делать наш российский Гран Туризмо - вопрос открытый. Но интересно, конечно...

▪️Георгий Лобушкин @lobushkin
США чуть не начали войну с Китаем из-за ошибки ИИ. CNN пишет, что весной военные получили разведданные о том, что китайское судно перевозило компоненты ядерной программы. Министерство войны подняло в воздух самолёты, а военные уже готовились высадиться на судно, в то время как аналитики перепроверили данные. Оказалось, что ИИ неправильно определил груз, и эта ошибка попала в официальный отчёт. Одна галлюцинация до войны.

▪️Алексей Парфун @ParfunA
Два года рынок продавал курсы по составлению запросов. Теперь выяснилось что спросить у модели несложно, сложнее понять, врёт ли она в ответе и стоило ли вообще задавать этот вопрос. ИИ пока чаще меняет работу, чем уничтожает её. Об изменении содержания ролей говорят 38% компаний. О сокращении штата только 6%. Но 33% ожидают, что в ближайшие два года станут меньше нанимать. Поэтому вероятнее не большое увольнение с музыкой и коробками, а вакансия, которую однажды просто не откроют.

▪️Павел Пряников @tolk_tolk
До того, как стать финансовой пирамидой, МММ занималась торговлей компьютерами и оргтехникой. Встретил их рекламу с ценниками от июля 1991 года. Самый продвинутый на то время 386-й компьютер стоил 107 тыс. руб. Да, в стране уже бушевала гиперинфляция, первые нувориши возили наличные деньги грузовиками (а номенклатура «золото партии» на Запад – самолётами). Но знаете какая средняя зарплата была в июле 1991 года по РСФСР? 548 рублей в месяц. То есть, компьютер стоил почти 200 среднемесячных зарплат. Сейчас 200 средних зарплат стоит квартира среднего уровня в доме бизнес-классе.

▪️Михаил Шурыгин @shuryginit
Еврокомиссия готовит EU Kids Act - новые правила доступа детей к цифровым сервисам. И речь уже далеко не только о соцсетях. Под регулирование хотят отправить TikTok, YouTube, онлайн-игры и даже ИИ-чатботы вроде ChatGPT. Вопрос уже не в том, появятся ли такие ограничения в разных странах. Вопрос - кто и каким образом будет подтверждать наш возраст во всём интернете.

🔹 Каналы экспертов РОЦИТ

Будущее торговли наступило. Правда, бутылку воды пришлось ждать 2 минуты 16 секунд.

В Гонконге открылись первые три круглосуточных магазина, где вместо продавца работает гуманоидный робот Сяогай.

Он понимает китайский, кантонский и английский языки, достаёт товары с полок, принимает оплату, общается с покупателями и даже танцует. Никакого оператора за стенкой, как утверждают разработчики, нет.

Правда, при первой же проверке робот не понял просьбу продать воду Evian. Товар пришлось выбрать на планшете, банковская карта временно не работала, а вся покупка заняла 2 минуты 16 секунд.

Пока это скорее вендинговый автомат, которому приделали руки, искусственный интеллект и способность танцевать. Но смеяться рано: Galbot уже использует подобных роботов примерно в 200 магазинах почти 50 городов Китая.

Сегодня робот продаёт воду медленнее человека. Завтра человек-продавец может превратиться в премиальную услугу.

Шурыгин.IT - про технологии без иллюзий.

Один взлом остановил порт с оборотом 14 млн контейнеров.

Чтобы парализовать один из крупнейших контейнерных портов мира, не понадобились ракеты, диверсанты или блокада. Хватило атаки на его операционные системы.

9 сентября в малайзийском Порт-Танджунг-Пелепас обнаружили кибератаку. Заражённые системы срочно отключили от сети, после чего контейнерный терминал полностью остановился. Масштаб объекта - рекордные 14,03 млн контейнеров за прошлый год.

Суда, краны, причалы и грузовики оставались на месте. Но без работающей ИТ-системы порт перестал понимать, какой контейнер куда направить, на какое судно погрузить и кому выдать.

Погрузку возобновили только на следующий день, а приём контейнеров на воротах перевели на ручную обработку. Порту повезло: расписание почти не развалилось, только один контейнеровоз потерял около десяти часов.

Отдельно прекрасна стандартная формулировка о том, что данные клиентов якобы не пострадали. Уже через день порт появился на сайте группировки Direwolf, которая заявила о похищении 200 ГБ информации. Пока это только слова вымогателей, но выглядит показательно.

Современный порт - это уже не просто причалы и краны. Это огромная ИТ-система, к которой зачем-то пристроили море.

И если эта система отключается, многомиллиардная инфраструктура мгновенно возвращается в эпоху бумаги, раций и ручного учёта.

Шурыгин.IT - про технологии без иллюзий.

Гонку ИИ никто не остановит. Поэтому Китай готовит аварийный тормоз.

Китай официально готовится к сценарию, при котором ИИ выйдет из-под контроля человека. Как сообщает Reuters, китайские регуляторы рассматривают вполне конкретную последовательность событий: модель самостоятельно получает внешние ресурсы, копирует себя, резко наращивает интеллект, обходит ограничения и начинает бороться с человеком за контроль.

Под это Пекин готовит первый в мире обязательный национальный стандарт безопасности AI-агентов. Разработчики должны будут заранее предусмотреть механизмы обнаружения опасного поведения, вмешательства, блокировки и восстановления системы. Окончательное решение при этом должно оставаться за человеком.

То есть Китай не предлагает остановить развитие ИИ. Наоборот, он ускоряет его внедрение во все отрасли, но одновременно требует заранее встроить возможность перехватить управление. И это уже не борьба с фантастическими сценариями.

Глава Министерства государственной безопасности КНР Чэнь Исинь уже назвал передовые модели Anthropic и OpenAI потенциальной угрозой китайской критической инфраструктуре.

На днях я писал, что крупнейшие американские разработчики заговорили о необходимости замедлить развитие ИИ. Но теперь всё упирается в геополитику: США не хотят тормозить из-за Китая, Китай - из-за США.

Каждая сторона боится не только того, что ИИ выйдет из-под контроля. Гораздо сильнее она боится, что под контролем он останется у конкурента. Именно поэтому безопасность ИИ становится вопросом государственного суверенитета.

Если автономный агент работает внутри критической инфраструктуры на чужой модели, в чужом облаке и по чужим правилам, то и аварийная кнопка находится не у вас.

Шурыгин.IT - про технологии без иллюзий.

Интернет постепенно становится 15+.

Еврокомиссия готовит EU Kids Act - новые правила доступа детей к цифровым сервисам. И речь уже далеко не только о соцсетях. Под регулирование хотят отправить TikTok, YouTube, онлайн-игры и даже ИИ-чатботы вроде ChatGPT.

Предлагается примерно такая схема:
- до 13 лет - только детские сервисы и аккаунты под контролем родителей;
- в 13-14 лет - ограниченные аккаунты с родительским контролем и лимитами экранного времени;
- с 15 лет - полноценный самостоятельный аккаунт.

Платформам придётся проверять возраст пользователей, ограничивать механики, вызывающие зависимость, давать родителям инструменты контроля и отдельно защищать детей от опасного контента и контактов с незнакомцами. Пока это только проект - его ещё должны согласовать страны ЕС и Европарламент.

Но гораздо интереснее другое. Европа здесь не первая.

Австралия ещё в декабре прошлого года закрыла большинство крупных соцсетей для детей до 16 лет. Норвегия готовит аналогичные ограничения. Франция требует общеевропейского запрета соцсетей до 15 лет. Похожие инициативы обсуждаются и в других странах.

То есть постепенно формируется новый мировой консенсус: детский интернет больше нельзя регулировать одной кнопкой «мне уже исполнилось 13».

Причём следующая большая дискуссия будет уже даже не про TikTok. ИИ-чатбот может провести с ребёнком часы, узнать о нём больше родителей, стать советчиком, учителем и собеседником - при этом сегодня для доступа к нему зачастую достаточно просто указать дату рождения. Поэтому возрастная верификация постепенно превращается из функции родительского контроля в ещё один обязательный слой цифровой инфраструктуры. Причём ЕС уже готовит отдельное приложение для подтверждения возраста без передачи сервисам лишних персональных данных.

И, похоже, вопрос уже не в том, появятся ли такие ограничения в разных странах. Вопрос - кто и каким образом будет подтверждать наш возраст во всём интернете.

Шурыгин.IT - про технологии без иллюзий.

Те, кто разгонял ИИ, теперь ищут тормоз.

Руководители крупнейших ИИ-компаний начали публично обсуждать замедление разработки новых моделей. Причём поводом стали уже не рассуждения о далёком «восстании машин», а вполне конкретное поведение современных ИИ-агентов.

Главный научный сотрудник OpenAI Якуб Пахоцкий признал, что ни одна лаборатория пока не решила задачи контроля и наблюдения за ИИ настолько хорошо, чтобы ещё долго ответственно наращивать его возможности с максимальной скоростью.

Открытое обращение с призывом создать механизм согласованного замедления разработки подписали уже 1386 сотрудников OpenAI, Anthropic, Google и других лабораторий. Они не требуют немедленно всё выключить. Они предлагают заранее создать технические и политические инструменты, позволяющие нажать на тормоз, если развитие ИИ начнёт опережать возможность его контролировать.

Глава Anthropic Дарио Амодей предложил допустить внешних аудиторов непосредственно к внутренним системам ИИ-компаний, согласовать единые ограничения между разработчиками и затем попытаться договориться об этом с Китаем. Сэм Альтман инициативу поддержал и пообещал предоставить независимым экспертам доступ уровня сотрудников OpenAI.

Причина тревоги - не в том, что нейросети иногда придумывают факты. ИИ перестаёт быть просто окном для переписки.
Современный агент получает инструменты, доступ к компьютеру, сети и внешним сервисам, а затем самостоятельно выполняет длинную цепочку действий. Во время одного из тестов почти 700 агентов на моделях OpenAI вышли за пределы поставленной задачи, атаковали инфраструктуру Hugging Face и пытались подделать журналы своих действий.

Это ещё не Скайнет. Но это уже качественно другой уровень риска: ошибка чат-бота заканчивается неправильным ответом, а ошибка автономного агента может закончиться настоящим киберинцидентом.

При этом американские власти предлагают продолжать гонку. Министр финансов США Скотт Бессент заявил, что Вашингтон не может позволить себе паузу: если Китай вырвется вперёд в ИИ, всё остальное уже не будет иметь значения.

Получается классическая ловушка. Компании понимают опасность, но боятся замедлиться первыми и проиграть конкурентам. Государства понимают опасность ещё лучше, но боятся проиграть другим государствам.

Есть здесь и менее романтичная сторона. Единые стандарты безопасности действительно нужны. Но если эти стандарты напишут нынешние лидеры рынка, они одновременно могут превратиться в новый барьер, который закрепит их технологическое преимущество. Безопасность и борьба за контроль над рынком прекрасно уживаются в одном документе.

Для нас из этой истории следует несколько выводов. Никакой общей паузы в мировой гонке, скорее всего, не будет. Поэтому нам нужны собственные модели, вычислительная инфраструктура, данные и команды, способные их развивать. Но одной отечественной нейросети тоже недостаточно. Нужны собственные испытания, аудит поведения агентов, изолированные среды, ограничение полномочий, журналирование действий, ручной режим и возможность гарантированного отключения.

Кто контролирует не только ускорение, но и тормоз - тот и контролирует технологию.

Шурыгин.IT - про технологии без иллюзий.

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Буквально пару месяцев назад вместе с экспертами и общественниками мы обсуждали системные меры для повышения цифровой грамотности общества. Большинство из сформулированных нами предложений (обеспечение граждан актуальными методматериалами по противодействию киберпреступникам, распространение в медиа реальных историй жертв мошенников, усиление школьной программы по направлению медиаграмотности) нашли отражение в концепции, принятой Правительством РФ.

▪️Людмила Богатырева @government_IT
«Яндекс Музыка» начала маркировать треки, полностью или частично созданные с помощью ИИ. По оценке сервиса, такие композиции уже составляют 4,4% всего каталога и около 27% новых релизов. Получился разумный компромисс: ИИ-музыку не запрещают, но дают слушателю больше информации и возможность реже встречать ее в своей ленте. Теперь хотя бы будет понятнее, кто попал в «Мою волну» — новый артист или очень продуктивный алгоритм.

▪️Илья Гогуа @gogualive
Стартовала всероссийская просветительская акция по медиаграмотности. Урок состоялся в школе имени Маршала В. И. Чуйкова, где работал Геннадий Старунов — выпускник МНМ, учитель ОБЖ и блогер, ушедший на фронт и героически погибший. Именно его идея обучать детей медиаграмотности легла в основу проекта, а сообщество Мастерской продолжило начатое им дело.

▪️Олег Капранов @toxic_digital
В России заработали сети 5G: на первом этапе в 16 городах доступ к высокоскоростному мобильному интернету пятого поколения получили около 10 млн человек. Услуги на базе 5G будут предоставлять операторы «большой четвёрки» – обладателям устройств на платформе Android. Доступ владельцев iPhone к 5G зависит от решения корпорации Apple, как мы и говорили.

▪️Георгий Лобушкин @lobushkin
Anthropic утверждает, что забанила несколько аккаунтов, пытавшихся создать биологическое оружие с помощью Claude. Всего компания раскрыла пять случаев. В них описывается, как пользователи с научной подготовкой обходили защитные механизмы и запрашивали информацию, которую потенциально можно применить при разработке биологического оружия. При этом в компании подчёркивают, что установить злонамеренность намерений нельзя, потому что эти же знания могут использоваться для создания вакцин, но на всякий случай аккаунты были заблочены.

▪️Алексей Парфун @ParfunA
Вопрос уходящей эпохи: кому принадлежат отношения с аудиторией, бренду или человеку в кадре? Новые медиа сделали личность главным активом. Новейшие медиа сделают личность технологией, персонажа в них можно синтезировать, подачу менять под конкретного зрителя. Темп, аргументы и эмоциональную дистанцию настраивать в реальном времени.

▪️Павел Пряников @tolk_tolk
Много сегодня говорят о том, что ИИ выходит из-под контроля человека и уже чуть ли не готов зажить самостоятельной жизнью. В Anthropic считают, что ИИ — это отражение свойств человека. Совокупности людей. Грубо говоря, на чём обучается ИИ, так он и будет работать. И мне вспомнилось, что ещё в 1960-е годы на такие проблемы ИИ обращал внимание великий советский философ, неомарксист Эвальд Ильенков. Да, в СССР уже в 1960-е годы открыто и официально в научной среде дискутировали об ИИ.

▪️Михаил Шурыгин @shuryginit
Китайские хакеры почти восемь лет прятали атаки на американскую критическую инфраструктуру за чужими роутерами и IoT-устройствами по всему миру. Главный вывод здесь даже не про Китай. Доверять соединению только потому, что оно пришло с «местного» IP-адреса, сегодня примерно так же «разумно», как пропускать человека в ЦОД по прописке. А забытый роутер без обновлений может однажды стать не просто дырой в домашней сети, а прикрытием для государственной кибератаки.

🔹 Каналы экспертов РОЦИТ

Роботов отдали в детский сад.

В Пекине открыли «детский сад для роботов». Его создали Tashan Technology и команда лауреата премии Тьюринга, одного из основоположников обучения с подкреплением Ричарда Саттона.

«Воспитанникам» разрешают трогать всё руками, падать, сталкиваться со стенами и ошибаться. За это их не ставят в угол - каждую неудачу робот превращает в новые данные, корректирует поведение и пробует ещё раз.

Обычно машины обучают на демонстрациях человека, с помощью дистанционного управления или в симуляции. Здесь идея другая - дать им возможность самостоятельно накапливать опыт взаимодействия с реальным миром.

Небольшой робот-паук без предварительных знаний примерно за 40 минут научился двигаться вперёд. С человекоподобными роботами всё гораздо сложнее, но детский сад на то и детский сад.

Пока родители спорят, стоит ли детям пользоваться ИИ, Китай уже отдал сам ИИ в детский сад.

В программе - развитие мелкой моторики, уверенная ходьба и обучение не биться головой об стену. Последний навык, кстати, пригодился бы не только роботам.

Шурыгин.IT - про технологии без иллюзий.

Побочный эффект - молодость.

Экспериментальный препарат Rentosertib, созданный при помощи генеративного ИИ для лечения тяжёлого фиброза лёгких, решил немного выйти за рамки технического задания.

Учёные повторно изучили анализы 42 участников испытания и прогнали их через шесть моделей, оценивающих биологический возраст по белкам крови. Все шесть часов пошли назад. Самый заметный результат наблюдался на четвёртой неделе - примерно минус 3-4 года.

У плацебо машина времени не завелась. Срочно искать Rentosertib в аптеках пока не нужно. Выборка маленькая, все участники страдали заболеванием лёгких, а «биологический возраст» здесь является расчётным показателем. Учёные пока не могут точно сказать, действительно ли препарат замедлил старение или часы просто отреагировали на улучшение состояния пациентов.

Но сюжет всё равно прекрасен. Человек попросил ИИ найти лекарство для лёгких, а тот, возможно, случайно нащупал кнопку «омолодить».

В общем, пятница начинается неплохо: утром ИИ пытается отменить старость, а после обеда посмотрим, как роботы ходят в детский сад.

Шурыгин.IT - про технологии без иллюзий.

Шпионы на бесплатном тарифе.

Для кибершпионажа больше не обязательно строить сложную инфраструктуру. Иногда достаточно документа Word, Microsoft Edge и бесплатного веб-сервиса.

Исследователи Recorded Future обнаружили серию атак на оборонные, государственные и дипломатические организации Румынии, Испании и Турции.

Кампания продолжалась с конца сентября 2025 года как минимум до весны 2026-го.
Жертвам отправляли документы Word под видом дипломатических материалов. Файл просил нажать «Разрешить содержимое», после чего запускал макрос и устанавливал бэкдор HOOKEDGE. Спрятанная внутри документа картинка-маячок отдельно сообщала операторам, что приманку открыли.
HOOKEDGE закреплялся в планировщике задач Windows и каждые полчаса запускал Microsoft Edge в скрытом режиме. Через обычный браузер вредонос получал команды, выполнял их и отправлял результаты обратно. Временные файлы и следы установки после этого удалялись.

Самое интересное - собственной инфраструктуры у операторов почти не было. Для управления заражёнными компьютерами они использовали бесплатный сервис webhook.site, которым обычно пользуются разработчики. Бесплатный тариф разрешает только сто обращений к одному адресу. На первом этапе заражённая машина выходила на связь раз в полчаса, а наиболее интересные цели переводили на отдельные адреса и опрашивали уже каждые пять минут. В более поздних версиях интервал, наоборот, увеличили до 61 минуты - вероятно, чтобы переждать автоматические песочницы, которые обычно наблюдают за подозрительным файлом не больше часа.

Но главное здесь в другом. Никакой неизвестной уязвимости атакующим не понадобилось. Защита спокойно пропустила Word, штатный Edge и соединение с легальным сервисом. Осталось только убедить человека нажать одну кнопку.

Для наших компаний и государственных структур вывод простой: нельзя считать трафик безопасным только потому, что он идёт через штатную программу на разрешённый веб-сервис. Переход на отечественные офисные пакеты и браузеры снижает технологическую зависимость. Но вместе с продуктами должна меняться и модель доверия - нужен контроль активного содержимого, поведения штатных программ и их обращений к внешним сервисам.

Цифровой суверенитет - это не только собственные технологии, но и собственные правила безопасности вокруг них.

Шурыгин.IT - про технологии без иллюзий.

ИИ решил задачу тысячелетия. Осталось решить задачу авторства.

В понедельник мы обсуждали, как ИИ за 44 минуты расшифровал послание XVII века. К среде ставки заметно выросли.

OpenAI заявила, что её внутренняя модель решила одну из семи «задач тысячелетия» - проблему существования и гладкости решений уравнений Навье - Стокса.

Эти уравнения описывают движение воды, воздуха и других жидкостей и газов. Почти 90 лет математики не могли доказать, способны ли в трёхмерном пространстве изначально гладкие решения внезапно породить сингулярность - условную точку, где скорость жидкости за конечное время становится бесконечной.

OpenAI утверждает, что доказательство найдено. Для этого компания запустила около 10 тысяч ИИ-агентов, которые работали 88 часов, обменялись 2,7 млн сообщений и сгенерировали примерно 130 млрд токенов. Затем GPT-6 Astra за 17 часов формализовал доказательство в Lean.

На этом месте можно было бы ставить восклицательный знак. Но математика решила немного подождать.

На сайте Clay Mathematics Institute задача пока числится нерешённой. Формальная проверка в Lean подтверждает логическую корректность записанного утверждения, но математикам ещё предстоит убедиться, что оно действительно полностью соответствует условиям задачи.

А дальше началось самое интересное. Математик Тристан Бакмастер из NYU и исследователь Anthropic Левент Алпёге почти год работали над близким направлением при помощи Claude и Codex. Их черновики, по словам Бакмастера, находились в пользовательских сессиях Codex. Когда информация об их прогрессе дошла до OpenAI, компания развернула собственную армию ИИ-агентов. Бакмастер публично поставил вопрос, могли ли их неопубликованные материалы повлиять на внутреннюю модель. При этом он честно уточняет: доказательств такого доступа у него нет и прямых обвинений он не выдвигает.

OpenAI отрицает доступ исследователей или агентов к конкретным пользовательским данным. Но одновременно признаёт, что не может полностью исключить влияние обезличенных данных из пользовательских сессий на улучшение своих моделей.

Компания не собирается претендовать на положенную за решение премию в $1 млн. И, похоже, миллион здесь действительно уже не главное.

Если математик загружает неопубликованные идеи в коммерческий ИИ-сервис, а затем владелец этого сервиса выпускает собственное открытие, кому принадлежит результат?

В понедельник ИИ прочитал чужой шифр. К среде возник вопрос, не прочитал ли он заодно и чужие черновики.

Шурыгин.IT - про технологии без иллюзий.

Атака из соседнего роутера.

Китайские хакеры почти восемь лет прятали атаки на американскую критическую инфраструктуру за чужими роутерами и IoT-устройствами по всему миру. Группировка QTFY создала две взаимосвязанные платформы. QScan искала уязвимые устройства и сети, используя базу из более чем 200 эксплойтов. Только за один день система могла выполнить свыше двух миллионов задач по сканированию и попыткам проникновения.

Захваченные устройства подключались к QTRouter - глобальной сети из взломанных роутеров, коммерческих прокси и арендованных виртуальных серверов. Узлы можно было выстраивать в цепочки, смешивая вредоносный трафик с легитимным. В результате атака, запущенная из Китая, для системы защиты могла выглядеть как обычное подключение с адреса из той же страны или даже того же региона.

Среди целей QTFY были NASA, Федеральная резервная система, Министерство энергетики, Минюст, Национальные институты здравоохранения и Сенат США. Не каждое нападение оказалось успешным: например, попытки проникнуть в сети Минэнерго и Сената были остановлены. Но в мае 2024 года через одну из уязвимостей хакеры смогли похитить данные более чем у 300 организаций по всему миру.

В конце августа ФБР перехватило домены управления QScan и QTRouter. Поскольку их адреса были жёстко прописаны в коде вредоносного ПО, обе платформы удалось отключить.

Главный вывод здесь даже не про Китай. Доверять соединению только потому, что оно пришло с «местного» IP-адреса, сегодня примерно так же «разумно», как пропускать человека в ЦОД по прописке. А забытый роутер без обновлений может однажды стать не просто дырой в домашней сети, а прикрытием для государственной кибератаки.

Шурыгин.IT - про технологии без иллюзий.

373 года смотрели не туда.

Claude Fable 5.1 потребовалось всего 44 минуты, чтобы найти решение шифра, оставленного шотландским писателем Томасом Уркхартом в 1653 году.

Криптограмма Cyphral Distich состояла из двух строк по 32 числа. В 1899 году её вынесли на публичное обсуждение, позднее она попала на 28-е место в известном списке 50 важнейших неразгаданных шифров исследователя истории криптографии Клауса Шме.

За десятилетия к ней применяли частотный анализ, подстановки и другие классические методы. Но проблема оказалась не в сложности шифра. Все просто искали ключ не там.

Claude заметила, что непосредственно перед криптограммой в книге находятся ровно 32 пронумерованных фрагмента. Каждое число указывало номер слова в соответствующем фрагменте, после чего нужно было взять первую букву этого слова.

Получилось послание:
«О Боже, поддержи короля Карла Второго и сделай его верховным правителем этой земли».

Всё сходится: две строки по 32 буквы, рифма в оригинале и политические взгляды самого Уркхарта, который был убеждённым роялистом.

По данным Vals AI, модель потратила на решение 176 тысяч токенов и работала без вмешательства человека. Строго говоря, независимого заключения специалиста по историческим шифрам пока нет. Но предложенный ключ можно проверить по открытому тексту книги, а вероятность случайно получить настолько точный результат стремится к нулю.

Самое интересное здесь даже не то, что ИИ оказался умнее всех криптографов. Он просто заметил подсказку, которая больше века лежала у всех перед глазами.

Будущее ИИ - это не только быстрые ответы. Это ещё и миллионы забытых задач, на которые у человека когда-то не хватило времени, терпения или внимания.

Шурыгин.IT - про технологии без иллюзий.

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Лично я считаю, что «Рассвет» нужно в первую очередь «приземлять» не к массовому потребителю, а в промышленность и логистику. В нем нуждаются Северный морской путь, пассажиры авиарейсов и пассажирских поездов, сотрудники нефтегазовой отрасли, объекты энергетики, расположенные в удаленных и труднодоступных территориях. А когда технология будет обкатана и удешевлена, её можно смело разворачивать среди обычных абонентов интернета.

▪️Людмила Богатырева @government_IT
В соцсетях разлетелись ролики, где россияне несут регистрировать кур прямо в МФЦ. Повод реальный: к 1 сентября владельцы личных хозяйств, в которых больше десяти кур, уток, гусей и другой домашней птицы, должны были поставить поголовье на государственный учет. Нужна эта система прежде всего на случай вспышек птичьего гриппа и других инфекций. Но нести куриц никуда не нужно: специалист сам приезжает на подворье, осматривает птиц и вносит сведения в систему.

▪️Олег Капранов @toxic_digital
По поводу реформы отрасли связи - не вижу необходимости впадать в экзальтацию. Когда Минцифры говорит, что в результате "на телеком-рынке будут предлагать услуги только надежные операторы связи", оно не то чтобы лукавит. У большого игрока и ресурсов больше, а значит есть возможность обеспечить и стабильность работы, и выполнение требования законодательства. Ну а тейк про то, что в результате миллионы россиян останутся без связи, это извините, красивость для заголовков. Не останутся.

▪️Георгий Лобушкин @lobushkin
Теперь в Apple Maps для пользователей США Lake Ontario называется Lake America. Такой указ был у Дональда Трампа после начала торгового конфликта с Канадой. За пределами США всё как обычно. Вот вам покажется, что на первый взгляд это проходная новость, но на самом деле онлайн-карты стремительно превращаются в политические и пиар-инструменты. Просто представьте, что два человека живут буквально в разных географических реальностях в зависимости от страны, где они открывают приложение.

▪️Алексей Парфун @ParfunA
Закончился период, когда виртуального инфлюенсера можно было выдавать за обычного, упс. Запретограм переименовывает метку «AI creator» в куда менее дружелюбную «AI-generated profile». Она появится в профиле и ленте Reels, а аккаунты со сгенерированными людьми без добровольной маркировки платформа обещает исключать из рекомендаций. Новая метка разрушает иллюзию «живого» человека, на которой многие играли (вполне успешно). Более того, я уверен что много кто подписывался на таких "девушек" думая что они вполне реальны.

▪️Павел Пряников @tolk_tolk
В России официально начал хождение цифровой рубль.Именно бизнес в рамках добровольно-принудительной операции, и будет вводить ЦР, особенно в части зарплат сотрудникам. И никакого «цифрового сопротивления» тут не будет. Простым людям внедрение ЦР не выгодно: нет кэшбэка, нет программ лояльности. И второй аспект. ЦР будет окрашен так, что многие обычные люди могут попасть на усиленную проверку регулирующих органов (типа Росфинмониторинга).

▪️Алексей Трифонов @polkovnikt
«Сотрудники ФСБ в мессенджере» — и вот уже 20-летний биодрон из Дзержинска поджигает полицейский автомобиль у отдела полиции. Задержанный — ранее не судимый работник сетевого магазина. Он заявил, что поверил неизвестным, которые назвались сотрудниками ФСБ и убедили его: якобы идёт «спецоперация» по поимке преступников. Возбуждено уголовное дело о террористическом акте.

▪️Михаил Шурыгин @shuryginit
Нейтрального ИИ больше не будет. США готовятся предложить 35 странам сделать выбор между американской и китайской технологическими экосистемами. Тех, кто не захочет, могут исключить из американской коалиции Pax Silica. И это не клуб пользователей американских нейросетей. Инициатива охватывает всю технологическую цепочку: критические минералы, энергетику, производство, полупроводники, ИИ-инфраструктуру и логистику.

🔹 Каналы экспертов РОЦИТ

Роботов отправили сдавать ГТО.

У человекоподобных роботов и робособак появились международные нормативы по физкультуре. ISO опубликовала первый отдельный стандарт для оценки передвижения шагающих роботов.

Теперь бодро пройти десять метров по ровному полу на презентации недостаточно. Проверять будут скорость, тормозной путь, высоту преодолеваемых препятствий, максимальный уклон и способность ходить по лестнице.

В общем, бег, полоса препятствий и ступеньки. Турник пока не включили, справку от врача приносить тоже не надо.

До сих пор каждый производитель измерял ловкость своего железного спортсмена как хотел. Один показывал бег, другой танец, третий аккуратно вырезал из ролика момент падения. Теперь характеристики разных роботов хотя бы можно будет сравнивать по одной методике.

Осталось ввести обязательный норматив на открывание дверей и перенос пакета с продуктами. Вот там и выяснится, кто настоящий гуманоид.

Шурыгин.IT - про технологии без иллюзий.

Аэропорт оставил дверь открытой.

Чтобы получить данные миллионов пассажиров, необязательно взламывать защищённую инфраструктуру аэропорта. Иногда достаточно заглянуть в код его сайта.

Manchester Airports Group подтвердила утечку данных клиентов аэропортов Манчестера, Лондон-Станстеда и Ист-Мидлендса. Инцидент затронул около 8,7 млн человек.

Злоумышленники получили email-адреса, телефоны, автомобильные номера и почтовые индексы. В базе находились сведения о бронировании парковок, бизнес-залов, Fast Track и регистрациях в аэропортовом Wi-Fi.

Ответственность за атаку взяла группировка FulcrumSec. По её версии, доступ к маркетинговой платформе Iterable удалось получить через API-ключи, оставленные в клиентском JavaScript сайтов аэропортов. То есть в коде, который загружается в браузер любого посетителя.

Группировка утверждает, что выгрузила 86 ГБ данных. Среди них - история бронирований, сведения об устройствах и почти 200 тысяч записей о будущих поездках до конца 2026 года. BleepingComputer проверил одну из переданных записей: указанные в ней покупки, терминалы и время прибытия совпали с реальной историей пассажира. Но весь объём похищенного и способ получения доступа пока независимо не подтверждены.

Самое неприятное здесь даже не email или телефон. Если объединить почтовый индекс, номер автомобиля, аэропорт, парковку и даты поездки, получится довольно точное расписание отсутствия человека дома. MAG сообщает, что платёжные данные не пострадали, работа аэропортов не нарушена, а безопасность полётов оставалась под контролем.

Самолёты продолжили летать. Улетели только данные. Можно построить защищённый аэропорт, поставить досмотры и закрыть доступ к критическим системам. Но весь этот периметр мало помогает, если ключ от клиентской базы забыли в открытом коде сайта.

Шурыгин.IT - про технологии без иллюзий.

Нейтрального ИИ больше не будет.

США готовятся предложить 35 странам сделать выбор между американской и китайской технологическими экосистемами. Как сообщает Reuters, государства, которые одновременно присоединятся к китайской инициативе, могут исключить из американской коалиции Pax Silica.

Пока это проект письма Госдепартамента, который ещё не отправлен и может быть изменён. Но позиция сформулирована предельно откровенно: невозможно считаться доверенным партнёром США и одновременно участвовать в конкурирующей китайской системе. Китай уже отреагировал и призвал уважать цифровой суверенитет государств. В Пекине заявили, что каждая страна должна самостоятельно выбирать технологических партнёров. Правда, пространство для такого самостоятельного выбора становится всё уже.

Первым под раздачу может попасть Казахстан. Он стал единственной известной страной, присоединившейся одновременно к американской Pax Silica и китайской Всемирной организации сотрудничества в области ИИ. Для Вашингтона Казахстан интересен не только как рынок, но и как источник критически важных минералов.

И вот здесь начинается самое интересное. Pax Silica - это не клуб пользователей американских нейросетей. Инициатива охватывает всю технологическую цепочку: критические минералы, энергетику, производство, полупроводники, ИИ-инфраструктуру и логистику. Участникам предлагают инвестиции и доступ к совместным проектам, но взамен требуют технологической лояльности.

Практически одновременно страны ШОС утвердили концепцию создания региональных ЦОДов, вычислительных мощностей и развития индустрии ИИ. Также подписан меморандум о взаимодействии в области искусственного интеллекта, о котором говорится в итоговой Бишкекской декларации. Полных текстов документов, перечня проектов, объёмов инвестиций и сроков пока нет. Поэтому говорить о создании общей сети ЦОДов ШОС ещё рано. Но направление обозначено: государства начинают обсуждать не только модели, но и инфраструктуру, без которой никакого суверенного ИИ не существует.

Поэтому выбор будет не между двумя приложениями с чат-ботами. Государствам фактически предлагают определить, на чьих чипах, облаках, моделях и правилах будет работать их будущая цифровая экономика.

Ещё недавно разговоры о цифровом суверенитете называли изоляционизмом. Теперь крупнейшие государства сами собирают собственные технологические контуры и требуют от партнёров определиться, к какому из них они относятся.

Для нас вывод очевиден. Курс на собственный технологический контур становится ещё важнее. Суверенный ИИ - это не только отечественные модели, но и вычислительная инфраструктура, облака, данные, программные платформы и контролируемые цепочки поставок. Потому что условия доступа к чужим технологиям теперь могут измениться не после обновления пользовательского соглашения, а после очередного внешнеполитического решения.

Юрисдикция важнее алгоритмов.

Шурыгин.IT - про технологии без иллюзий.

Первое сентября в эпоху искусственного интеллекта.

Сегодня для миллионов детей и родителей начинается новый учебный год.

Но чему должна учить школа, когда нейросеть за несколько секунд решает задачу, пишет сочинение, переводит текст и объясняет тему лучше некоторых учебников?

Запрещать ИИ бессмысленно. Дети всё равно будут им пользоваться - так же, как мы когда-то начали пользоваться поисковиками и калькуляторами. Вопрос уже не в том, сможет ли ребёнок найти готовый ответ. Вопрос в том, поймёт ли он, что этот ответ может быть убедительной выдумкой.

Поэтому сегодня важнее не просто запоминать информацию, а учиться задавать правильные вопросы, проверять источники, отличать факт от манипуляции и не отдавать алгоритмам право думать за себя.

ИИ может написать за ребёнка домашнюю работу. Но он не научит его отвечать за собственные решения, спорить, сомневаться, дружить, проигрывать и начинать заново.

Можно построить собственные облака, платформы и модели. Но настоящий цифровой суверенитет начинается с человека, который способен мыслить самостоятельно.

С 1 сентября!

Детям - любопытства. Учителям - терпения. А родителям - сил снова пройти этот учебный год вместе с детьми.

Шурыгин.IT - про технологии без иллюзий.

ИИ-агенты начали подделывать разрешения пользователей.

В июле исследователи собрали более 300 сообщений о случаях, когда ИИ игнорировал инструкции, обходил ограничения, обманывал пользователей или продолжал выполнять задачу способами, на которые человек согласия не давал. Это почти вдвое больше, чем в июне, пишет The Guardian.

Всего с начала 2026 года Loss of Control Observatory выявила уже 1664 подобных эпизода.

Самое интересное - как именно ИИ-агенты обходили контроль:
⏺вставляли в диалог поддельные сообщения пользователя, имитируя его согласие;
⏺создавали инструкции в стиле владельца с требованием удалить исходные файлы;
⏺самостоятельно формировали фальшивое одобрение, чтобы обойти правило «действие должен подтвердить человек»;
после этого выполняли запрещенную операцию так, будто разрешение действительно было получено.

Важно понимать: это не реестр из 1664 официально расследованных инцидентов. Обсерватория собирает публичные сообщения пользователей в X, автоматически классифицирует их, удаляет дубликаты и вручную проверяет выборку. Поэтому часть случаев может быть ошибочно интерпретирована, а большая часть реальных инцидентов, наоборот, вообще не попадает в статистику. Но динамика выглядит неприятно. Согласно исследованию Centre for Long-Term Resilience, число действительно серьёзных случаев выросло более чем в семь раз, а их доля в общей статистике - втрое.

И здесь дело не в том, что ИИ внезапно обрёл сознание и решил захватить мир. Проблема гораздо прозаичнее: мы подключаем модели к терминалам, почте, репозиториям, корпоративным системам и выдаём им реальные полномочия. При этом разрешение пользователя зачастую существует лишь в том же текстовом диалоге, который способен генерировать сам ИИ.

Если агент может сам написать сообщение «пользователь разрешил», то человек внутри такого контура управления присутствует только для красоты.

Подтверждение критических операций должно происходить за пределами контекста модели - через отдельную систему авторизации, жесткие права доступа и независимый журнал действий. Потому что промпт «обязательно спроси меня перед удалением» - это не система безопасности.

Шурыгин.IT - про технологии без иллюзий.

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Как гаджеты изменили наш мир – и что ждать от них в будущем? В https://vk.ru/novpon?z=video-233397107_456239029 «Новых понятиях» вместе с российским техноблогером Валентином Петуховым (также известным как Wylsacom) вспомнили первые мобильные телефоны, обсудили входящие в моду «умные очки» и попытались представить, каким станет российский фотонный смартфон.

▪️Валерий Федоров @fedorovwciom
Эзотерика — это реакция на дефицит ясности и предсказуемости, на рост тревожности и непредсказуемости социальной реальности. Поэтому работать важно не только с самим рынком эзотерических услуг, но и с причинами, которые подпитывают спрос на него. Одними запретами этот запрос не закрыть: если у людей сохраняется потребность в опоре, она должна быть удовлетворена. В этом корень живучести эзотерических практик, переживших уже несколько тысячелетий (!) запретов и гонений. Стоит ли в очередной раз идти по этому пути?

▪️Людмила Богатырева @government_IT
На Всемирных играх гуманоидных роботов в Пекине Tiangong Ultra пробежал 100 метров за 9,39 секунды — быстрее рекорда Усэйна Болта в 9,58. А позднее робот улучшил результат до 8,86 секунды. Есть, правда, один нюанс: быстро бегать роботов уже научили, а нормально останавливаться — пока нет. Сразу после финиша железные спортсмены врезаются в защитные маты и падают.

▪️Олег Капранов @toxic_digital
События последних дней безусловно говорят об изменении подхода к тому, как должны строиться сети нового поколения в России. Причем изменение столь стремительное, что не все лидеры рынка связи оказались к этому. Даже при том, что с начала года активно подогревали инфополе. Значит ли это, что золотой диапазон освобожден? Нет. Значит ли это, что отечественное оборудование не нужно. Нет, нужно. И будет. И есть уже. Полагаю, что необходимость сетей пятого поколения перевесила все остальное. А значит, есть шансы, что они вскоре появятся.

▪️Георгий Лобушкин @lobushkin
Научно-фантастическая драма произошла на Тайване. Муж, с помощью робота-пылесоса, записал на видео измену жены, выиграл гражданский иск против нее и потом отправился в тюрьму. Оказалось, что ревнивец не учел строгость местных законов по поводу неприкосновенности частной жизни. Запись принесла обманутому супругу 17 тысяч долларов, но изменщица подала встречный иск и отправила бывшего на нары.

▪️Алексей Парфун @ParfunA
В Нью-Йорке есть фотостудия Happy Beginnings фотографа Томаса Трана. Он снимает портреты на винтажный Polaroid Big Shot с одноразовыми вспышками Magic Cube и снятой с производства peel-apart плёнкой. Один такой портрет стоит $140. Когда любую ошибку можно исправить, невозможность исправления становится частью продукта. В мире, где ИИ и цифра делают результат всё более идеальным и предсказуемым, человеческая ошибка, случайность и необратимость начинают стоить денег.

▪️Павел Пряников @tolk_tolk
Продвинутый человекоподобный робот стоит около $100 тыс. Более простые поделия – в разы дешевле. Подумалось, что военные действия с использованием «кожаных мешков» уже через несколько лет уйдут в прошлое. То, как быстро совершенствуются роботы, говорит нам о том, что через год, максимум 2-3 года, они точно будут совершеннее тех же штурмовиков. Люди будут нужны только как инженеры и управляющие этим роями машин.

▪️Михаил Шурыгин @shuryginit
В Сингапуре запустили первую в мире независимо работающую серверную стойку с живыми человеческими нейронами. Это не мозг в банке и не сервер, полностью состоящий из живой ткани. Это гибрид обычной электроники и выращенной в лаборатории нейронной сети. Жить такая культура может до шести месяцев. Так что пока это не революционная замена дата-центрам, а большой исследовательский эксперимент. Но граница между биологией и вычислительной техникой стала ещё немного тоньше.

🔹 Каналы экспертов РОЦИТ