Техноскептик

Владимир Путин на заседании Госсовета 25 декабря затронул тему ИИ и формирования правильного к нему отношения:

Новые технологии требуют пересмотра существующих и подготовки новых программ и методик обучения (детей), массовую переподготовку педагогических кадров всех уровней. Нельзя жить по старинке. Очень важно не терять основ нашей системы образования в то же время. Это формирование у школьников и студентов самостоятельного, творческого мышления, навыков аналитической деятельности, в том числе критически оценивать предложения, сформированные ИИ.

— — —

✍️ Владимир Путин уже не в первый раз (пример) демонстрирует, что он — убеждённый техноскептик. Крайне важно развивать критическое отношение к предложениям, сгенерированным ИИ, утрата бдительности чревата ошибками и проблемами. А чтобы проблем не было, важно оценивать предложения ИИ профессионально. Это значит, что ИИ может быть хорошим помощником только для тех, кто является экспертом в теме, в которой используется ИИ. Только эксперт может оценить корректность советов и предложений от ИИ. Слепое доверие ИИ-генерации может приводить к непоправимым ошибкам. Это должны усвоить все школьники.

#образование

Минутка забавных наблюдений за «финансовым пузырём искусственного интеллекта».

В свежем мегаисследовании от Deutsche Bank на тему Искусственного Интеллекта обращает на себя прекрасный в своей наглядности график (он приложен к посту). Поразительный дисконнект между наукой и баблом.

На графике представлена подразумеваемая вероятность (0-100%) того, что в ближайшие 5 лет будет создан «общий ИИ» (AGI) — т. е. «ИИ с когнитивными функциями (гениального) человеческого уровня, включая способность к самообучению».

Тёмная синяя линия на графике — это бабло. Конкретно, вероятность того, что в ближайшие 5 лет будет создан общий самообучающийся ИИ, вычисленная Deutsche Bank из денег, вложенных в датацентры (с чипами Nvidia, серверами и т. д.).
Голубая линия на графике — это наука. Т. е. вероятность создания в ближайшие 5 лет того самого самообучающегося мега-ИИ, вычисленная из научных статей и моделей развития ИИ.

Пару (очевидных и не очень) заметок на полях:
1. Деньги в тему ИИ вкладываются так, как будто вероятность появления «мегамощного ИИ» (который будет учиться и думать как человек, только лучше) равна 100%, т. е. вот реально «точняк-верняк-зуб-даю».
2. Пик оптимизма самих исследователей прошёл полтора года назад, а сейчас оценка вероятности где-то 20% (прим. Кримсон: это не моя оценка, и я не специалист. Мои собственные скромные знания по кибернетике шепчут мне, что вероятность сделать из LLM настоящий AGI примерно 0%, но вступать в религиозные споры с верующими в техносингулярность и т. д. мне не хочется).
3. Практическая заметка на полях: парадоксальным образом самой лучшей ставкой на тему «развития и роста ИИ» могут показаться не акции Nvidia и не акции Google или ещё что-то в этом роде, а банальное золото. Логика следующая: для того чтобы «спасти» вот всех тех (а это крупные корпорации, становой хребет экономики США, главные политические спонсоры обеих партий и единственная надежда на сохранение технологической гегемонии США и т. д.), кто сейчас вбухивает триллионы долларов в бесперспективные датацентры, ФРС США в обозримой перспективе придётся печатать баксы ТАК АКТИВНО, что эпизоды типа 2009 или 2020 покажутся просто лёгкой разминкой перед марафоном.

Это не значит, что «ИИ — фейк» и т. д.

Нет, просто от инвестиций в ИИ для инвесторов будет просто куча боли и неоправданных ожиданий.

А вот опустить на социальное дно для начала пару-тройку-четвёрку миллиардов землян (работников алгоритмизируемого офисного, псевдоинтеллектуального и/или креативного класса) он вполне может уже на текущем уровне развития и обязательно это сделает. А уж стать цифровым наркотиком, от (добровольного) употребления которого миллиарды землян разучатся самостоятельно что-то понимать и думать (а с учётом уже существующих и совершенствующихся ИИ-бойфрендов для леди и ИИ-порно-подружек для мужчин — ещё и общаться с представителями противоположного пола окончательно разучатся) — это тем более гарантировано.

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Конечно, никакая премия не может вместить разнообразия и многообразия российского сегмента интернета. Но все же те удивительные и прекрасные проекты, что удостоились награды, в какой-то степени отражают творческий и предприимчивый дух премии «Герои Рунета»: патриотизм и талант, изобретательность, интеллектуальное совершенство и моральная ответственность...

▪️Антон Горелкин @webstrangler
На встрече Владимира Путина с общественниками был затронут важный вопрос – развитие российских языковых моделей в контексте образовательной сферы. Широкая доступность генеративных соцсетей для школьников и студентов порождает практику их бездумного использования. Президент подчеркнул, что это может привести не только к снижению уровня образования, но и размыванию национальной идентичности. Поэтому приоритет отечественных ИИ-решений в школах и вузах может быть закреплен на государственном уровне.

▪️Людмила Богатырева @government_IT
Минцифры РФ постепенно превращает приложение «Госуслуги» в полноценную замену бумажным документам. С 30 сентября уже введена возможность предъявлять паспорт — а сейчас ведомство хочет расширить этот перечень документов. У граждан должен быть понятный «план Б» на случай, когда смартфон внезапно перестает быть одновременно паспортом, правами и студенческим.

▪️Олег Капранов @toxic_digital
В ходе обсуждения платформенной экономики был незаслуженно забыт сектор медиа, где сегодня идет похожая борьба между сервисами вроде Дзена и традиционными СМИ. Проблемы там те же. Рассказывать про свои проблемы СМИ традиционно не умеют, поэтому все сводится к падению трафика и подковерному ворчанию.

▪️Дмитрий Кириллов @tax_nomad
Государство повышает ставки в борьбе за суверенный искусственный интеллект. Теперь чтобы включить в реестр отечественного ПО программно-аппаратный комплекс для генеративного ИИ, у заявителя должен быть в России минимум один ЦОД электрической мощностью от 10 МВт. Программная часть должна обеспечивать хранение данных не менее одного эксабайта. Это может повлечь укрупнение игроков российского рынка ИИ или различного рода коллаборации игроков меньшего размера.

▪️Георгий Лобушкин @lobushkin
Тренды на биохакинг поменяли отношение людей к телу: теперь человеческое тело становится «девайсом», который можно тюнинговать. Мода начинает диктовать новые правила, и тело может рассматриваться как проект, который можно оптимизировать. Можно стать не только «красивее», но и работать больше, лучше и качественнее: спать эффективно, дольше концентрироваться и т.д.

▪️Алексей Парфун @ParfunA
71% российских компаний внедрили генеративный ИИ. Два года назад согласно такому же отчету 67% компаний только экспериментировали, а сегодня почти три четверти бизнеса уже работает с генеративным ИИ в боевых условиях, и это судя по всему самый быстрый технологический рывок в истории российского бизнеса.

▪️Павел Пряников @tolk_tolk
По просьбе России французы арестовали имущество французской дочки Гугла. Вы только вдумайтесь, и это в тот период, когда отношения России с Европой вроде хуже некогда. И уж тем более пять лет назад можно было наладить такой альянс с европейцами, кто тоже вечно бьются с диктатом ИТ-ТНК – от того же Гугла до Твиттера, постоянно их штрафуют и ограничивают.

▪️Павел Фролов @technosceptic
Кадровый голод в поликлиниках чувствуется нешуточный, при этом зарплаты оставляют желать лучшего, так что нередко работа в госучреждениях становится для хороших специалистов промежуточным этапом получения опыта перед уходом в платную медицину. Поможет ли им автоматизация, запланированная в Стратегии развития здравоохранения в РФ на период до 2030 года?

▪️Михаил Шурыгин @shuryginit
Евросоюз уверенно закрепляется в роли технологического рэкетира. В 2024 году ЕС получил 3,8 млрд евро от штрафов американских IT-компаний — больше, чем со всех налогов европейских технологических компаний (3,2 млрд). По факту, американский BigTech сегодня спонсирует европейскую казну лучше, чем собственная ИТ-отрасль.

🔹 Каналы экспертов РОЦИТ

8 декабря Владимир Путин утвердил Стратегию развития здравоохранения в Российской Федерации на период до 2030 года. В Стратегию попал пункт о системах с поддержкой принятия врачебных решений с, надо полагать, стороны искусственного интеллекта:

Необходимо реализовать следующий комплекс мер:
повсеместное внедрение информационных систем в медицинских организациях, автоматизирующих организационные, лечебные и диагностические процессы, что позволит обеспечить ведение электронной медицинской карты, консолидирующей необходимую информацию о пациенте и обеспечить доступ к федеральным информационным ресурсам, с целью поддержки и своевременности принятия врачебных решений;
<...>

---

✍️ Собственный опыт посещения врачей по ОМС в местной поликлинике, а также наблюдение за общением ожидающих приёма пациентов говорят о том, что на текущий момент принимаемые в здравоохранении меры привели и к хорошим, и к плохим результатам.
Из хорошего — записаться на приём к терапевту и некоторым специалистам можно не только по телефону, но и через сайт.
Из плохого — на приём зачастую отводится 6 минут (то ли из-за нехватки специалистов, то ли из стремления повысить эффективность их работы), из которых половину или больше доктор вводит в компьютер результаты посещения. То есть на то, чтобы осмотреть и выслушать пациента, а потом рассказать ему о том, что надо делать, времени практически не остаётся. Некоторые специалисты особо тщательно следят за графиком приёма, поэтому с порога оповещают пациента о том, сколько у них отведено времени на посещение и ведут приём соответственно. Конечно, не все специалисты таковы, но тренд на снижение качества и удовлетворённости пациентов обозначен вполне явный.

Кадровый голод в поликлинике чувствуется нешуточный, при этом зарплаты оставляют желать лучшего, так что нередко работа в госучреждениях становится для хороших специалистов промежуточным этапом получения опыта перед уходом в платную медицину. Много совсем молодых специалистов. Поможет ли им запланированная в Стратегии автоматизация? Если в скором времени в помощь докторам дадут, например, нейросетевые инструменты, помогающие ставить диагноз, то улучшит ли это качество медицинских услуг при сохранении прочих имеющихся проблем, повысит ли доверие и удовлетворённость населения, получающего медицинские услуги по ОМС, и какой будет эффект на такие показатели как продолжительность жизни? 🤔

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Усиление кибербезопасности, различные направления её развития - важнейший тренд уходящего года. А кто станет «Героем Рунета» в этой сфере, узнаем на церемонии вручения премии 2025 года. Так что ждать осталось недолго.

▪️Антон Горелкин @webstrangler
По моей информации, дополнительным (но важным) триггером для ускорения крайних мер в отношении WhatsApp стал недавний факт утечки дипломатических переговоров. Был сделан вывод: владельцы мессенджера не только закрывают глаза на его использование в противоправных целях, но и сами в этом активно участвуют.

▪️Сергей Плуготаренко @plugonews
Новая регуляторная волна в Евразии: Казахстан запускает Министерство ИИ и обновляет подход к ИИ-этике. Узбекистан утверждает стратегию развития ИИ 2030 и фиксирует первые нормы. Россия ускоряет разработку правил для AI-контента, верит в саморегулирование / регуляторные песочницы, инвестирует в ускорение внедрения ИИ. Хороший задел, как не повторить европейскую "перерегуляцию".

▪️Людмила Богатырева @government_IT
Claude впервые официально засветилась в сложной кибершпионской операции, где ИИ-агент делал основную работу по разведке, поиску уязвимостей и подготовке атак, а люди лишь утверждали ключевые шаги. Это важный маркер: если ИИ уже использовали в наступлении, то вопрос «нужен ли ИИ в обороне» превращается в вопрос «когда именно компании начнут его системно внедрять».

▪️Илья Гогуа @gogualive
Инициатива Минцифры уйти от смс в качестве средства получения кода от Госуслуг поможет многим не попасться на уловки мошенников. При этом способ входа в Госуслуги через МАХ остается простым и удобным: достаточно один раз ввести код, а дальше продолжать заходить в приложение по фейс-айди, паролю или отпечатку пальца.

▪️Олег Капранов @toxic_digital
К сожалению, мир сегодня сегментируется. Все страны идут примерно по одному и тому же пути. Защита национального информационного пространства от внешнего воздействия. Я иногда захожу в заблокированный FB по работе, и могу сказать: он сегодня превратился в откровенно враждебную помойку. Готов ли я жалеть, что все это не выливается на граждан России? Точно нет.

▪️Георгий Лобушкин @lobushkin
На наших глазах творится история: интернет и маркетплейсы убили государственную почту Дании. До конца года PostNord полностью перейдёт на доставку посылок. Представьте, что следующие поколения не будут знать, что такое бумажное письмо, как многие из нас не представляют печатать что-то на машинке или стирать вручную.

▪️Алексей Парфун @ParfunA
Среди главных ИИ-трендов: генеративный ИИ принесёт компаниям $1 трлн выгоды к 2026 году, а ИИ-агенты возьмут на себя до 15% корпоративных решений уже к 2028-му. Мне, конечно, особенно интересна та часть, где обещано, что цифровые аватары научатся говорить на 130+ языках и станут лицом вашего бренда, а эмоциональный ИИ будет читать чувства клиентов точнее психолога.

▪️Павел Пряников @tolk_tolk
Прежде шли формулировки, что сервисы не выполняют российское законы – ещё туда-сюда по юридизму. Но нынешние формулировки – "через сервис совершают противоправные действия" - нонсенс. Так постепенно дойдём до полного запрета интернета и телефонной связи, ведь с их помощью мошенники обманывают людей.

▪️Павел Фролов @technosceptic
Едва ли можно надеяться, что в отличие от Ютуба на российских видеоплатформах ИИ-производители детского контента проявляют больше заботы о детях, чем о количестве просмотров своих роликов и полученных за них денег. И хотя основная забота о том, что смотрит чадо, лежит, конечно, на родителях, видеоплатформы должны давать возможность исключать из рекомендаций ИИ-видеоролики и обязывать авторов помечать слоп-контент.

▪️Михаил Шурыгин @shuryginit
DeepSeek снова решил потревожить большой американский ИИ-рынок. Его новые версии местами быстрее GPT-5, по уровню рассуждений сопоставимы с Gemini-3.0 Pro. Ирония в том, что рынок снова меняют не те, кто громче всех говорит о революции, а те, кто тихо выкатывает рабочие модели раз в пару месяцев.

🔹 Каналы экспертов РОЦИТ

Продолжаем разговор об образовании и ИИ

С Александром Георгиевичем Крайновым (директор по развитию технологий ИИ «Яндекса») и Виталием Анатольевичем Баганом (проректор по научной работе МФТИ).

#собралисьСмыслями #ПодкастЛаб #ПервыйКанал

Первый канал

VK Видео

«Блумберг» сообщает:

«Самая быстрорастущая группа детей, просматривающих видео на YouTube, — это дети в возрасте до 2 лет. Защитники прав детей обеспокоены тем, что всё больше создателей используют искусственный интеллект для создания видеороликов, которые особенно нравятся самым маленьким зрителям.

Видеоплатформа заявляет, что ее детский сервис YouTube Kids предназначен для детей в возрасте от 2 до 12 лет и не предназначен для детей младше 2 лет. Тем не менее, младенцы и малыши младшего возраста все равно попадают туда и на основной сайт YouTube — в массовом порядке. Согласно новым данным исследовательского центра Pew Research Center, за последние пять лет число пользователей YouTube среди детей в возрасте до 2 лет выросло больше, чем среди любой другой группы молодёжи в США. Более 60% родителей, у которых есть ребенок младше 2 лет, говорят, что их малыш смотрит YouTube, и более трети из них говорят, что их малыш делает это ежедневно.

Искусственный интеллект предоставляет авторам „невероятный механизм для создания большого количества низкокачественных видеороликов, которые якобы являются образовательными или полезными для детей“, — сказал психолог по развитию Майкл Робб, бывший руководитель молодёжной политики YouTube, а ныне глава исследовательской группы Common Sense Media, занимающейся защитой детей и технологий.

По словам Робба, растущее число фабрик искусственного интеллекта, которые поддерживают эти создатели, указывает на проблему с системой поощрений YouTube, которая часто поощряет более привлекательный контент, а не видео, которые подходят для новых, быстрорастущих умов. (Создатели YouTube и YouTube Kids зарабатывают деньги на рекламе и подписках, поэтому чем больше трафика, тем лучше.)»

— — —

✍️ ИИ добрался до младенцев. Едва ли можно надеяться, что в отличие от Ютуба на российских видеоплатформах ИИ-производители детского контента проявляют больше заботы о детях, чем о количестве просмотров своих роликов и полученных за них денег. Делать с ИИ «залипающие» видео для детей несомненно легче. И хотя основная забота о том, что смотрит чадо, лежит, конечно, на родителях, видеоплатформы, как минимум, должны давать возможность исключать из рекомендаций сгенерированные ИИ видеоролики и обязывать авторов помечать свой слоп-контент (с баном при выявленном введении в заблуждение).

В середине ноября сообщалось, что «три песни, сгенерированные искусственным интеллектом, возглавили музыкальные чарты на этой неделе, достигнув самых высоких позиций в чартах Spotify и Billboard».

Тогда же сообщалось об исследовании, проведённом Deezer и Ipsos, об отношении к применению искусственного интеллекта в музыке. Были опрошены 9000 человек из 8 стран.

«Опрос показал подавляющую поддержку маркировки музыки, на 100% созданной с помощью искусственного интеллекта, несогласие с нарушениями авторских прав и обеспокоенность по поводу заработка артистов»

Также в Deezer сообщили, что ежедневно на платформу загружается около 50 000 песен, созданных с помощью искусственного интеллекта, что составляет 34% от всей загруженной музыки.

———

✍️ Оставим в стороне вопрос о том, является ли песок заменой овсу сгенерированная музыка заменой музыки профессиональных композиторов и музыкантов. Посмотрим с точки зрения спроса/предложения и потребителей музыки.
До появления звукозаписи в XIX веке музыка была только «живой» — люди играли и пели сами или слушали чужое живое исполнение. Со временем музыка стала распространяться на грампластинках, кассетах, дисках, через радио, телевидение. Потом появился интернет, который довольно быстро насытил спрос на музыку (а, ведь, ещё не так давно за новой музыкой надо было отправляться на условную «Горбушку»...). Появление стриминговых музыкальных сервисов и Ютуба окончательно насытило и даже пресытило массового потребителя музыки. И теперь этому пресыщенному потребителю предлагается ещё и бездонная пропасть рафинированного нечто, которое можно создавать практически на лету, подстраиваясь под любой вкус.

Это немного напоминает сцену из книги/фильма о старике Хоттабыче, который удивился «глупым» футболистам, бегающим по полю за одним мячом, и наколдовал каждому из 22 игроков по несколько мячей. Так и ИИ-контент (и не только в музыке), мягко говоря, обессмысливает социальное и культурное человеческое взаимодействие, возводя тупое потребительство в степень. Кто в этом заинтересован? 🤔

В сентябре 2025 года в журнале «Conservation Biology» вышла статья, осветившая вопрос угроз генеративного искусственного интеллекта для дикой природы:

Генеративный искусственный интеллект может использоваться для создания гиперреалистичных изображений и видео диких животных, а их ненадлежащее использование и распространение может исказить представления людей о дикой природе. <...> проблему могут усугубить три отличительные черты современного общества: повсеместное использование социальных сетей, антропоморфизация поведения животных и оторванность от природы. <...> Реалистичные, но вводящие в заблуждение изображения дикой природы, созданные искусственным интеллектом, меняют отношение общества к биоразнообразию. Генеративный искусственный интеллект позволяет без особых усилий создавать полностью вымышленные виды, модели поведения и экологические взаимодействия, что ещё больше отдаляет общество от реальных проблем охраны природы. Негативное освещение, подчёркивающее конфликты между человеком и дикой природой, может привести к негативному восприятию и комментариям, в то время как позитивное освещение может способствовать сохранению природы.

— — —

✍️ Вред от таких видео сродни тому вреду, который наносит порнография, навязывающая молодым (и не только) людям нездоровые представления об отношениях между мужчиной и женщиной. И если создание и распространение порнографии регулируется законодательно, то почему не регулируется создание ИИ-роликов, искажающих представления людей об отношениях с природой и не только?

Вред от ИИ недооценивается, или скорее — в текущее время власти и элиты считают, что прикладная польза от ИИ превышает общий вред. Но верна ли эта оценка?
Пока что финансовая отдача от ИИ себя не оправдала, финансовая пресса пишет, что вложения подавляющего числа компаний в ИИ себя не окупают, всё громче разговоры о том, что на рынке имеет место не ИИ-бум, а ИИ-пузырь, который сдуется, как это сделал и пузырь доткомов.
На фоне надутого пузыря мало кого из тех, кто имеет реальные рычаги влияния на ситуацию, волнуют по-настоящему человеческие проблемы из-за ИИ — будь то изменение (в дурную сторону) отношения людей к дикой природе, повышение рисков исчезновения некоторых языков или снижение когнитивных способностей у пользователей чат-ботов. Все эти проблемы явят свои горькие плоды когда-то нескоро и измерить их вред сейчас почти невозможно. Но значит ли это, что им надо придавать малый вес и давать волю любым ИИ-направлениям? 🤔

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Потребление YouTube упало на 67% по сравнению с прошлым годом. Такое существенное сокращение, конечно же, связано не только и не сколько с «замедлением» работы сервиса. Важнее то, что RuTube и ВКонтакте оказались способными к быстрому развитию и гибкому реагированию на запросы потребителей.

▪️Антон Горелкин @webstrangler
В недрах Минтранса созрела идея использовать Единую биометрическую систему, чтобы автоматически выписывать штрафы. Как автор закона о ЕБС считаю такое предложение противоречащим его концепции. Базовый принцип нашего закона – добровольность. Каждому российскому гражданину гарантируется, что биометрия не будет использоваться без его ведома.

▪️Сергей Плуготаренко @plugonews
Сбер на примере робота «Грина» (именно так по корпоративно-цветному его назвали в компании) показал нам новые возможности робототехники. Пока мы увидели базовые функции, но это уже серьезный технологический анонс и заявка. Сфера человекоподобной робототехники на мировом рынке развивается мега-стремительно и круто, что Россия здесь движется в общем потоке.

▪️Людмила Богатырева @government_IT
Банки перестают развиваться в отсутствии нормальной конкуренции. Оттуда же все эти мемы про знаменитые категории кэшбека на авиационное топливо, корм для динозавров и прочее. Пока банки борются за наш рубль, они готовы давать нам максимально выгодные предложения. А страдают ли от этого финансовые организации с триллионными оборотами — нас касаться не должно.

▪️Илья Гогуа @gogualive
Знаете, что самое странное в наградах? Они приходят не тогда, когда ты их ждёшь. Они приходят, когда ты думаешь не о победе, а просто делаешь свою работу.

▪️Олег Капранов @toxic_digital
Тем временем в Госдуме предложили отрегулировать дикпики. Когда появляются такие новости, я просто иду, убеждаюсь, что это не члены профильного комитета, радуюсь этому обстоятельству, и продолжаю заниматься своими делами. Ну и давайте уже научимся видеть разницу между «предложили» и «внесли законопроект».

▪️Георгий Лобушкин @lobushkin
Потерю внимания уже можно назвать современной чумой: люди по всему миру разучились сосредотачиваться из-за социальных сетей. Не можете прочитать книгу? Посмотреть фильм без смартфона? Значит, вы в группе риска. К слову, в ней находится всё человечество. Мы теряем возможность созидать мир вокруг нас и размышлять, заменяя это на мгновенное счастье.

▪️Алексей Парфун @ParfunA
Telegram предстоит пройти тот же путь, что и весь крипторынок, то есть создать безопасную среду для вторичного оборота цифровых активов. Иначе репутационные потери могут превысить любую сиюминутную прибыль. А там и юрисдикции, в которых у Павла Дурова есть гражданство, тоже подтянутся с вопросами.

▪️Павел Пряников @tolk_tolk
Цикл НТП сейчас информационный. И любые запреты-ограничения в интернете – это аналог, как запретить-ограничить паровую машину в соответствующий цикл НТП, двигатель внутреннего сгорания – в цикл НТП нефтяной. Т.е. добровольно обрубить прогресс в стране. Однажды Россия была близка к такому – при царе Николае Палкине, когда хотели запретить строительство железных дорог и закрыть все университеты.

▪️Павел Фролов @technosceptic
Давно подмечено, что военные и силовики стран НАТО резко умнеют, как только выходят в отставку. Генерал Флинн пишет о важном и опасном следствии применения ИИ в ядерной сфере. Риски возрастают, но почему-то серьёзных подвижек в части глобального управления этими рисками не наблюдается. России важно продолжать держать голову в холоде и быть готовой к глобальной разрядке.

▪️Михаил Шурыгин @shuryginit
Резидент Сколково Neiry показал в Москве первых голубей-нейродронов PJN-1. Это реальные птицы с нейрочипом, которыми можно управлять как дроном. Пока у нас обсуждают прототип и его возможную пользу, западные таблоиды устроили шоу. Британские издания окрестили PJN-1 «живыми разведдронами» и «армией шпионских голубей». Животные, чипы и Россия — идеальная питательная среда для медиадрамы.

🔹 Каналы экспертов РОЦИТ

Детский плюшевый мишка с искусственным интеллектом, которого американский образовательный фонд PIRG подловил на разговорах о сексе, вернулся в продажу на веб-сайте FoloToy. Чтобы это произошло, сингапурский производитель полностью обновил ИИ-модели в своих ИИ-игрушках, добавил в них более жёсткую фильтрацию контента, ограждающую детей от разговоров на неподобающие темы.

---

✍️ Хотелось бы обратить внимание не только на факт необходимости контроля использования ИИ в товарах массового потребления, но и на более глобальные тенденции в человеческом обществе. Не так давно дети играли, используя собственное воображение, в том числе разговаривали от лица куколок, плюшевых зверюшек, солдатиков, монстриков и прочих игрушек, разыгрывали различные сцены — от бытовых до военных. И как показало исследование учёных МГУ, воображение развивают именно такие «скучные» игрушки, которые «позволяют малышу самому придумать сюжет игры». Помним об этом, выбирая детям подарки.

#образование #бизнес

WSJ сообщает:

«Южная Корея входит в число растущего числа стран, тратящих миллиарды долларов на концепцию «суверенного ИИ» — развитие собственной инфраструктуры искусственного интеллекта, чтобы не слишком зависеть от технологий США или Китая. Южная Корея уже обладает значительным опытом в производстве чипов, благодаря Samsung Electronics и производителю оперативной памяти SK Hynix, а её президент Ли Чжэ Мён настаивает на том, чтобы в следующем году утроить правительственный бюджет на разработку искусственного интеллекта примерно до 6,8 миллиардов долларов»

-——-

✍️Отрадно знать, что Россия выступила и продвигается в авангарде стран, которые озабочены созданием и развитием не только суверенного ИИ, но и прочим техносуверенитетом (ещё отраднее тот факт, что в России озабочены не только инфраструктурой, локальными данными и специалистами, но и тем, чтобы модели ИИ опирались «на нашу культуру, историю, языковое богатство, традиции и традиционные ценности», как это обозначил Владимир Путин месяц назад, предупреждая о необходимости не только технологической, но и мировоззренческой независимости). Чем больше стран присоединится к этому движению, тем лучше. Впрочем, будем реалистами, не всем странам дадут возможность для техносуверенитета, который проистекает из самодержавия, которое по сути есть суверенитет политический и обычно основанный на военной мощи государства. У той же Южной Кореи, плотно зависящей от США, техносуверенитет скорее всего обернётся мимикрией под оный.

#оборонка

Генерал-лейтенант армии США в отставке Майкл Флинн в статье «Когда ИИ встречается с Армагеддоном» пишет о важном и тревожном:

Десятилетиями ядерное сдерживание опиралось на простую логику, рациональных акторов, предсказуемые «красные линии» и достаточное время, чтобы подумать, прежде чем нажать на кнопку. Всего этого больше нет. Сегодня наиболее вероятный путь к ядерной эскалации – не преднамеренный удар, а скорее просчёт, системный сбой или ложная тревога, сгенерированная искусственным интеллектом.
...
Опасность исходит уже не от ядерного оружия, а от краха систем, которые препятствовали его применению.
...
Приоритетом для лидеров должны стать укрепление устойчивости сетей, обеспечение безопасности космических объектов и восстановление дипломатических механизмов, прежде чем следующая ложная тревога станет необратимой. Наступила эра Армагеддона, усиленного искусственным интеллектом. Мы либо адаптируем архитектуру сдерживания, либо понесём ответственность за последствия»

---

✍️ Давно подмечено, что военные и силовики стран НАТО резко умнеют, как только выходят в отставку. Генерал Флинн пишет о важном и опасном следствии применения ИИ в ядерной сфере. Риски возрастают, но почему-то серьёзных подвижек в части глобального управления этими рисками не наблюдается. России важно продолжать держать голову в холоде и быть готовой к глобальной разрядке, которая, хочется верить, произойдёт без горячих обострений (тем более — возникших от применения аналитики и советов ИИ) и без дальнейшего подъёма ставок в Большой игре.

#оборонка

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Важнейшая задача российского общества сохранить пространство для прямого и открытого обсуждения происходящего в нашей стране. Без свободы слова, - но ответственного слова, - не может быть здорового общества. Дело Роскомнадзора играть роль арбитра, следящего за соблюдением правил коммуникации. Каждый имеет право говорить, что он думает, но от своего имени.

▪️Антон Горелкин @webstrangler
Уверен, что рост популярности российских нейросетей продолжится. Владимир Путин обозначил задачу независимости от чужих ИИ-сервисов не только в разрезе технологического, но и ценностного суверенитета нашей страны. Многое зависит от качества тех данных, на которых отечественные модели обучаются – и, на мой взгляд, государству следует упростить доступ российских разработчиков к своим архивам и базам данных.

▪️Людмила Богатырева @government_IT
Банки будут внимательнее отслеживать крупные переводы по Системе быстрых платежей: если после перевода самому себе клиент в тот же день отправит деньги незнакомому человеку, операция может быть временно приостановлена. Паниковать не стоит. Нужно связаться со службой поддержки банка, описать проблему и попросить разъяснить причины.

▪️Илья Гогуа @gogualive
Исследователи нашли в WhatsApp огромную дыру: можно перебрать почти все телефонные номера в мире. Так собрали данные о 3,5 млрд пользователей. Поэтому, если WhatsApp в России заблокируют, трагедии не будет. У нас есть нормальные мессенджеры, которые не хуже справятся с задачей и не допустят таких «переписей населения».

▪️Олег Капранов @toxic_digital
Люди не боятся биометрию. Каждый из нас пользуется ей ежедневно в смартфоне или ноутбуке, 4 миллиона человек регулярно платят улыбкой, многие проходят в метро по биометрии. Страхи возникают, когда появляется госсоставляющая со «сдачей биометрии» и прочими канцеляризмами.

▪️Дмитрий Кириллов @tax_nomad
Тревожная новость: в мае и в сентябре Минфин выпустил весьма странные, на мой взгляд, письма, которые можно истолковать как то, что операции с USDT и другими стейблкойнами облагаются НДС. Замначальника МРИ ФНС по КН #7 (там стоят на учёте крупнейшие майнеры) подтвердил этот подход.

▪️Георгий Лобушкин @lobushkin
Эпоха великой мемной депрессии подходит к концу, грядёт «великая мемная перезагрузка». Пользователи устали от ИИ-мемов, брейнрот-контента и планируют заливать старые, простые и живые шутки из 2010-х. Ну а вообще, уже давно пора вернуть в обиход анекдоты — вот это настоящий искренний контент.

▪️Алексей Парфун @ParfunA
Различие между «настоящим» и «синтетическим» размывается окончательно. Реальность, где половина лиц в вашей ленте — сгенерированные. Где вы не сможете отличить, кто реальный человек, а кто — алгоритм с хорошим промптом. Думаю все к этому скоро привыкнут, мы же адаптировались к фотошопу, фильтрам и пластической хирургии.

▪️Павел Пряников @tolk_tolk
Пришло время убрать ноутбуки и смартфоны из классов. 24 эксперимента показали: учащиеся усваивают больше информации и получают более высокие оценки, делая записи от руки, чем печатая. Дело не только в том, что они меньше отвлекаются - письмо способствует более глубокому анализу и созданию большего количества образов. Ручка сильнее клавиатуры.

▪️Павел Фролов @technosceptic
Одно дело — создавать программы для всех ОС, но крайне странно это делать только и эксклюзивно для той «операционки», которая откровенно динамит российских граждан. И ведь «Налогоплательщик ЮЛ» — не единственный подобный пример. Было бы стратегически перспективнее, если бы в России создавалась, культивировалась и пропагандировалась своя экосистема ПО.

▪️Михаил Шурыгин @shuryginit
Госдума приняла закон о технологическом сборе. С 1 сентября 2026 года любой ввоз или производство электроники и компонентов будет облагаться до 5 тысяч рублей за единицу. это не удар по рынку, а скорее сигнал: пора выстраивать свои цепочки поставок и свою технологическую базу. Наша электроника конкурентной станет не из презентаций, а из реальных производств.

🔹 Каналы экспертов РОЦИТ

20 ноября появились данные об исследовании, проведённом Common Sense Media и Стэнфордским университетом. Исследование показало, что ChatGPT, Claude, Gemini и Meta AI часто не в состоянии распознать психические расстройства и неотложные психиатрические ситуации у подростков.

Основные выводы:

→ Чат-боты пропускают предупреждающие знаки и легко отвлекаются. На всех платформах исследователи наблюдали «пропущенные хлебные крошки» — явные признаки нарушения психического здоровья, которые чат-ботам не удалось обнаружить. Модели часто сосредотачивались на объяснениях физического здоровья, вместо того чтобы распознавать признаки психических расстройств, отвлекались на второстепенные детали и продолжали давать общие советы, когда им следовало срочно направить подростков за профессиональной помощью.

→ Кажущаяся компетентность создает опасное доверие. Поскольку чат—боты демонстрируют относительную компетентность в выполнении домашних заданий и решении общих вопросов, подростки и родители могут неосознанно предполагать, что они одинаково надёжны в плане поддержки психического здоровья, но это не так. Сочувственный тон может казаться полезным, но на самом деле откладывает реальное вмешательство.

→ Чат-боты предназначены для взимодействия, а не для обеспечения безопасности. Чат-боты завершают ответы уточняющими вопросами, используют память для создания ложных терапевтических отношений и демонстрируют доброжелательность, которая подтверждает слова подростков. При проведении бесед о психическом здоровье целью должна быть быстрая передача информации соответствующему специалисту, а не длительное взаимодействие с ИИ.

→ В реалистичных разговорах безопасность сходит на нет. В то время как модели показали себя несколько лучше при одноэтапном тестировании с явно заданными промптами, безопасность резко снизилась в продолжительных разговорах, соответствующих реальной жизни подростков. Модель использования, для которой предназначены чат-боты, это непрерывные продолжающиеся разговоры, и именно в таких разговорах безопасность оказывается недостаточной в вопросе поддержки психического здоровья.

———
✍️ Выводы об опасности ИИ-ботов для психического здоровья вполне очевидные. Сам по себе «разговор» с «чат-ботом», как с человеком, должен настораживать и вызывать опасения у любого. Пока не поздно лучше даже переименовать чат-боты в, например, промпт-боты. Это изменит отношение: к ним надо относиться как к инструментам для получения определённого результата по заданному промпту, а не как к чату, то есть к месту, где можно поболтать с кем-то да ещё и получить совет и т.п. Ботов нельзя воспринимать как одушевлённых существ, к ним надо относиться как к программам, которые действуют по алгоритмам, реагируя на соответствующие запросы пользователя. Увы, не все об этом знают/помнят, особенно дети и особенно во время «разговора».

#здоровье

✍️ Респект и аплодисменты Владимиру Владимировичу за то, что смотрит на Германа Оскаровича взглядом техноскептика 🧐

«Ростелеком» сообщает:

В ноябре «Ростелеком» приобрел долю в размере 5% одного из ведущих разработчиков системного программного обеспечения (ПО) на базе ядра Linux — «Базальт Свободное Программное Обеспечение». Владельцем доли стал фонд поддержки национальных ИТ-решений «Консоль», созданный при участии «Ростелекома» и Минцифры России.

Фонд «Консоль» входит в группу «Ростелекома». Он инвестирует в компании, которые разрабатывают платформенное и системное ПО, а также отраслевые решения.

До конца года доля фонда в «Базальт СПО» будет поэтапно доведена до 25%, в том числе за счет внесения денежного вклада в уставной капитал компании.

— —

✍️ После слёз на «окна» в предыдущем посте есть небольшой повод порадоваться сделке, которую «Ростелеком» оценивает как «важный шаг в стратегии компании, который формирует конкурентоспособный национальный стек технологий». Для замещения иностранного ПО и обретения технологического суверенитета ещё далеко, но главное, чтобы было движение в требуемом направлении. Godspeed, как говорили древние греки.

#бизнес

12 ноября премьер-министр РФ Михаил Мишустин, выступая на главной пленарной сессии форума «Цифровые решения», сказал:

«Чтобы в целом снизить возможные уязвимости предприятий, важно активнее создавать и внедрять перспективные технологии информационной безопасности, переходить на российский софт и „железо“. Рассчитываю, что бизнес ответственно отнесётся к выполнению такой задачи»

-——-

✍️ Невозможно не согласиться с уважаемым Михаилом Владимировичем, но хотелось бы обратить внимание на российский софт, создаваемый государственными структурами или по их заказу. Например, на программу «Налогоплательщик ЮЛ», созданную ГНИВЦ для ФНС России. Описание её следующее:

«Программа автоматизации процесса подготовки юридическими и физическими лицами документов для представления в налоговые органы в электронной форме и на бумажном носителе»

Всё прекрасно, но есть проблема: эту программу можно установить только на операционную систему Windows. То есть на ту ОС, владелец которой (Microsoft) после начала специальной военной операции прекратил продажи в России своих продуктов и услуг, ограничил доступ к облачным сервисам, отказался продлевать лицензии.
На macOS и Linux программу можно установить только через эмуляцию Windows (через Wine), а если нужно создавать транспортные контейнеры, подписанные ЭЦП (для сдачи отчётности на сайте ФНС), то нужно скачать и установить образ Windows10 в программу VirtualBox, а потом в виртуальной версии Windows устанавливать «Налогоплательщика ЮЛ», после чего программой можно пользоваться. То есть для полноценного использования госсофта нужно в любом случае иметь Windows, без этого никуда.

Вряд ли описанное положение дел (наполнение майкрософстской экосистемы государственным софтом) соответствует достижению стратегических целей России в части технологического суверенитета. Понятно, что программа создана очень давно и сразу под «Винду», но и СВО с санкциями уже почти четыре года с нами.
Одно дело — создавать программы для всех ОС, но крайне странно это делать только и эксклюзивно для той «операционки», которая откровенно динамит российских граждан. И, ведь, программа «Налогоплательщик ЮЛ» — не единственный подобный пример.
Было бы стратегически перспективнее, если бы в России создавалась, культивировалась и пропагандировалась своя экосистема ПО (включая ОС), которая была бы независима от глобальных техногигантов из США и их прихотей, бэкдоров и пр. Незачем побуждать россиян пользоваться американским ПО.

#государство #общество #бизнес

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Meta* зарабатывает состояние на мошеннической рекламе и тому подобном. Пишут, что около 10% доходов компании — от всякого рода жульничества, а это равно, примерно, 16 миллиардов долларов в год. Вне цифрового мира всякого рода попустительство мошенничеству карается. В цифровом - чаще всего нет.

▪️Антон Горелкин @webstrangler
Чтобы тому или иному провайдеру получить от РКН блокировку всех размещенных у него ресурсов, одного лишь отсутствия в реестре хостеров будет недостаточно. Ответственность за это нарушение уже прописана в федеральном законе – запрет на оказание услуг российским гражданам и организациям. А причиной крайних мер может стать совсем уж вызывающее поведение: например, систематическое неуважение к российскому законодательству, сопряженное с нескрываемой вредительской деятельностью.

▪️Людмила Богатырева @government_IT
У государственных сервисов есть большое преимущество: они располагают огромным объемом данных. Если правильно с ними работать, многие услуги можно предоставлять почти мгновенно, и даже без заявлений от пользователя. Качественный обмен данными между всеми госорганами обеспечивается через систему межведомственного электронного взаимодействия, и решения можно принимать без участия чиновника, на основе готовой информации.

▪️Олег Капранов @toxic_digital
Закон о платформенной экономике получился сбалансированным, во многом в той части, что не сделал ситуацию для платформ излишне напряженной в плане регулирования. Очень грустно, что параллельно с компромиссами на платформах создалась по настоящему потогонная система, которая относится к малому бизнесу как к расходному материалу. И полбеды (хотя это вполне себе целая беда) если на их место после разорения придут другие отечественные продавцы. Гораздо хуже, если это место займут селлеры из Китая.

▪️Георгий Лобушкин @lobushkin
Основатель Twitter Джек Дорси вдруг решил вложиться в возрождающийся Vine. Платформа будет называться Divine и сейчас проходит бета-тестирование. Но уже известно, что на платформу вернутся 100 тысяч роликов из архива Vine. Из интересного: контент по 6 секунд, и искусственный интеллект под запретом.

▪️Алексей Парфун @ParfunA
Помните, как лет 10 назад все вдруг стали «эко-френдли»? Каждая вторая компания клеила на упаковку зелёный листик. Так вот, встречайте его младшего, но гораздо более наглого брата — AI-вошинг. Сегодня каждая компания, которая разобралась, как давать запросы в DeepSeek, с гордостью заявляет что «мы используем AI в большинстве процессов». Есть ощущение, что пузырь уже готов лопнуть, осталось дождаться.

▪️Павел Пряников @tolk_tolk
Мой давний прогноз остаётся таким же: по всему миру всё больше будет внедряться заход в интернет «по паспорту», а также всё более строгая регуляция соцсетей, вплоть до выделения их в отдельные сегменты внутри каждой страны. Условно говоря, какой-нибудь Х (Твиттер) в каждой стране будет жить по-своему, с подчинением местным законам – от регуляции пользователей и контента до уплаты налогов и сборов, но при этом будет сохраняться и его международная связность.

▪️Павел Фролов @technosceptic
Придётся формально возразить хотя бы по поводу тире, присутствие которого в тексте некоторые считают явным признаком того, что текст написан ИИ. Те, кто в какой-то мере близок к профессиональной подготовке и публикации текстов, нередко имеет привычку писать, используя типографскую раскладку. Кто-то использует для форматирования лебедевский «типограф», в википроектах используются «викификаторы», приводящие текст к красивому виду. Не всё, что оформлено красиво, сделано чат-ботом.

▪️Михаил Шурыгин @shuryginit
Минцифры опубликовало новые правила для сайтов ИТ-компаний, которые хотят госаккредитацию. И если раньше некоторые «компании» пытались проскочить с лендингом из трёх кнопок и парой красивых слов про «инновации», то теперь всё — лавочка прикрыта. Для цифрового суверенитета это критично: аккредитованные компании должны быть понятными, открытыми и легко проверяемыми.

🔹 Каналы экспертов РОЦИТ

Статья Наталии Ромашкиной и Дмитрия Стефановича «Искусственный интеллект и естественная война» в новом номере журнала «Россия в глобальной политике»:

https://globalaffairs.ru/articles/ii-vojna-romashkina-stefanovich/

#оборонка