Горелкин

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
В моем родном городе Кемерово состоялось большое событие – стратегическая сессия по развитию креативных индустрий «Культурный код Кузбасса». Вместе с губернатором Ильей Середюком, главой города Дмитрием Анисимовым и представителями самых разнообразных творческих профессий обсудили, какие возможности для талантливой молодежи открываются сегодня при содействии государства. Специальным гостем мероприятия стал Алексей Гореславский, он предложил нашим креативщикам новую точку роста – фестиваль индустриального контента.

▪️Людмила Богатырева @government_IT
Верховный суд утвердил концепцию внедрения искусственного интеллекта в российское судопроизводство. К 2030 году ИИ хотят использовать на всех этапах работы с делом — от подачи документов до обжалования решения. Но заменять судью алгоритмом не планируют: последнее слово должно оставаться за человеком. К 2030 году ИИ-сервисами должны регулярно пользоваться более 95% судей. Алгоритмы будут готовить не менее 90% протоколов заседаний и от 30 до 50% проектов процессуальных документов. Сроки рассмотрения типовых дел рассчитывают сократить на 20–30%.

▪️Олег Капранов @toxic_digital
Владельцем крупнейшей игровой компании России «Леста Игры», издающей «Мир танков» и «Мир кораблей», может стать Никита Мазепин — бывший известный автогонщик и сын экс-совладельца «Уралкалия» и основного акционера «Уралхима» Дмитрия Мазепина. Будет ли Леста в таком случае делать наш российский Гран Туризмо - вопрос открытый. Но интересно, конечно...

▪️Георгий Лобушкин @lobushkin
США чуть не начали войну с Китаем из-за ошибки ИИ. CNN пишет, что весной военные получили разведданные о том, что китайское судно перевозило компоненты ядерной программы. Министерство войны подняло в воздух самолёты, а военные уже готовились высадиться на судно, в то время как аналитики перепроверили данные. Оказалось, что ИИ неправильно определил груз, и эта ошибка попала в официальный отчёт. Одна галлюцинация до войны.

▪️Алексей Парфун @ParfunA
Два года рынок продавал курсы по составлению запросов. Теперь выяснилось что спросить у модели несложно, сложнее понять, врёт ли она в ответе и стоило ли вообще задавать этот вопрос. ИИ пока чаще меняет работу, чем уничтожает её. Об изменении содержания ролей говорят 38% компаний. О сокращении штата только 6%. Но 33% ожидают, что в ближайшие два года станут меньше нанимать. Поэтому вероятнее не большое увольнение с музыкой и коробками, а вакансия, которую однажды просто не откроют.

▪️Павел Пряников @tolk_tolk
До того, как стать финансовой пирамидой, МММ занималась торговлей компьютерами и оргтехникой. Встретил их рекламу с ценниками от июля 1991 года. Самый продвинутый на то время 386-й компьютер стоил 107 тыс. руб. Да, в стране уже бушевала гиперинфляция, первые нувориши возили наличные деньги грузовиками (а номенклатура «золото партии» на Запад – самолётами). Но знаете какая средняя зарплата была в июле 1991 года по РСФСР? 548 рублей в месяц. То есть, компьютер стоил почти 200 среднемесячных зарплат. Сейчас 200 средних зарплат стоит квартира среднего уровня в доме бизнес-классе.

▪️Михаил Шурыгин @shuryginit
Еврокомиссия готовит EU Kids Act - новые правила доступа детей к цифровым сервисам. И речь уже далеко не только о соцсетях. Под регулирование хотят отправить TikTok, YouTube, онлайн-игры и даже ИИ-чатботы вроде ChatGPT. Вопрос уже не в том, появятся ли такие ограничения в разных странах. Вопрос - кто и каким образом будет подтверждать наш возраст во всём интернете.

🔹 Каналы экспертов РОЦИТ

Проголосовал на выборах депутатов Государственной Думы девятого созыва в кемеровской школе №60 имени героя Советского Союза Юрия Бабанского.

Много лет здесь преподавал мой отец Вадим Геннадьевич Горелкин. Он всегда учил, что нужно знать историю своей страны и смело смотреть вперёд – ведь всё зависит только от нас самих.

Приходите на избирательные участки и выбирайте будущее России!

Сразу после стратегической сессии по развитию креативных индустрий вместе с Алексеем Гореславским провели круглый стол для кузбасского медиасообщества. Обсуждали меры противодействия информационным угрозам, которые значительно эволюционировали с появлением всё более доступных ИИ-инструментов. Есть и другой тревожный тренд: по последним данным, уже больше половины фейковых нарративов направлены на дестабилизацию общественных настроений, против государства и органов власти.

В такой ситуации считаю важным, чтобы все, кто работает с новостями – пресс-секретари, журналисты, блогеры – не только имели доступ к современным инструментам распознавания дипфейков, но и постоянно совершенствовали свою насмотренность, получали доступ к базе актуальных фейковых угроз, которую ежедневно пополняется благодаря усилиям сотрудников АНО «Диалог». Запрос на специальный образовательный антифейк-курс для медийщиков в регионах есть – как минимум, в Кузбассе.

🇷🇺 Этот пост вышел в МАКС час назад

Сегодня в моем родном городе Кемерово состоялось большое событие – стратегическая сессия по развитию креативных индустрий «Культурный код Кузбасса». Вместе с губернатором Ильей Середюком, главой города Дмитрием Анисимовым и представителями самых разнообразных творческих профессий обсудили, какие возможности для талантливой молодежи открываются сегодня при содействии государства.

Специальным гостем мероприятия стал Алексей Гореславский – гендиректор «Института развития интернета», уже несколько лет помогающего региональным контент-проектам выйти на большую аудиторию. Что любопытно, одним из первых успешных кейсов стал сериал «Школа: инструкция по применению», который снимали в Кемерове пять лет назад. Есть хороший опыт и у кузбасских видеоигр по мотивам популярных медиа-франшиз.

Алексей Сергеевич предложил нашим креативщикам новую точку роста – фестиваль индустриального контента. Согласен: Кузбасс идеально подходит для этой задачи. Здесь давно работают над развитием промышленного туризма, и если к экскурсиям на металлургические и горношахтные предприятия добавится их продвижение в современных медиаформатах (а спрос на это есть), от этого выиграет не только наш регион, это повлияет на престиж рабочих профессий и имидж всей российской экономики.

Я бы хотел, чтобы результатом нашей сегодняшней встречи стало даже не знакомство с возможностями ИРИ и механизмами их грантовой поддержки, а уверенность молодых креативщиков, что проект из региона может прогреметь на всю страну, что их желание реализоваться обязательно найдет поддержку.

Яндекс при помощи рыб объяснит школьникам, что такое претекстинг. Впрочем, даже не все взрослые понимают этот термин, поэтому вот пояснение:

Претекстинг — это вид мошенничества, при котором злоумышленник придумывает правдоподобную историю, чтобы выманить у человека личную информацию, деньги или заставить его совершить нужное преступникам действие. В таких сценариях мошенники всегда давят на эмоции — страх, стыд или жалость — и делают акцент на срочности, чтобы человек не успел усомниться в «легенде».

Действительно, большинство существующих мошеннических схем построены на моделировании правдоподобного предлога для начала общения. Далее в ход идут различные психологические приемы, чтобы вывести вас из спокойного состояния и сделать объектом манипуляции. Чаще всего в претекстинге используются личные данные, полученные из разных утечек: имена родственников, адреса, номера телефонов и т.д.

Причём же здесь рыбы? Учитывая, что такую сложную тему нужно наглядно объяснить детям (а именно они в последнее время чаще всего становятся жертвами подобных схем), Яндекс упаковал её в мультфильм, главными героями которого стали жители подводного мира. Получилась запоминающаяся и наглядная история, которую обязательно нужно показать своему ребенку.

Там же доступны и другие обучающие материалы, которые помогут защитить детей от мошеннических атак. И это, на мой взгляд, очень правильный подход, который нужно системно внедрять в школьное образование.

🇷🇺 Этот пост вышел в МАКС час назад

В России начались продажи квантовых компьютеров. Эти сверхмощные вычислительные установки совсем не похожи на домашний ПК. Хотите купить – готовьте просторное помещение: в комплект поставки входят квантовый сопроцессор, криогенная система считывания, криостат сверхнизких температур и управляющее оборудование. Используются квантовые компьютеры не для видеоигр (хотя Doom запускали и на них), а для серьезных научных задач: сложного моделирования, криптографии, машинного обучения и т.д.

В чем особенность квантовых вычислений и чем бит отличается от кубита, доступно написано здесь. Если некогда подробно разбираться, просто запомните этот факт: Россия входит в число семи стран, имеющих квантовые машины с 50 кубитами и больше. При этом лишь у США, Китая и РФ есть работающие квантовые вычислители на всех четырех известных физических платформах: атомах, фотонах, сверхпроводниках и ионах.

Более того, наши ученые построили единственный в мире квантовый компьютер на кусептах – частицах, способных колебаться между семью состояниями. Здесь российская наука демонстрирует принципиально иной подход, ведь западные компании делают ставку на сверхпроводящие кубиты и сталкиваются с трудностями при попытке увеличить их количество. В области прикладных квантовых вычислений мы выбрали новаторский путь, и это сработало.

Как раз недавно обсуждали с Валентином Петуховым, что правильной стратегией технологического развития будет не попытка догнать иностранцев, а установка своих стандартов. Что ж, ждем от Вилсакома распаковку квантового компьютера :)

🇷🇺 Этот пост вышел в МАКС полчаса назад

Сначала Anthropic выпускает исследование, в котором обвиняет Россию и Китай в «неправомерном» использовании её передовых моделей (там полный комплект: и фейки, и шпионаж, и биологическое оружие). А уже на следующий день в блоге её гендиректора Дарио Амодеи появляется пространное эссе о том, что развитие ИИ в «демократических странах» требует более ответственного подхода. Что касается всех остальных стран, в их отношении нужно проводить жесткую политику сдерживания. Высказывается и очень осторожная мысль, что с Китаем можно договориться о неких «красных линиях» использования ИИ.

Никогда не поверю, что вся эта история не была смоделирована в аккурат перед встречей лидеров США и Китая. Обвинения в адрес китайских ИИ-компаний, содержащиеся в исследовании Anthropic, призваны разрушить нарратив китайской дипломатии о том, что американские санкции – это гегемония и технологический буллинг. Медийный разгон тезисов Дарио Амодеи проводится, чтобы дать Вашингтону моральное право для усиления своей политики в отношении Пекина: теперь это сдерживание во имя ответственного подхода. Никто же не хочет, чтобы ИИ вышел из-под контроля человека?

Вот только я сильно сомневаюсь, что Китай примет эти условия. Учитывая его успехи в развитии собственной полупроводниковой промышленности, зависимость от американских чипов становится всё менее серьезным препятствием для прогресса ИИ-технологий вне технологического контура США — в том числе для России. Соответственно, никакого добровольного замедления разработок больших языковых моделей в «демократических странах» также не случится. Вот и узнаем, приведет ли это в конечном итоге к катастрофе и порабощению человечества синтетическим сверхразумом. Что-то подсказывает мне, что и здесь не обошлось без медийных манипуляций.

🇷🇺 Этот пост вышел в МАКС полчаса назад

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Антон Горелкин @webstrangler
Буквально пару месяцев назад вместе с экспертами и общественниками мы обсуждали системные меры для повышения цифровой грамотности общества. Большинство из сформулированных нами предложений (обеспечение граждан актуальными методматериалами по противодействию киберпреступникам, распространение в медиа реальных историй жертв мошенников, усиление школьной программы по направлению медиаграмотности) нашли отражение в концепции, принятой Правительством РФ.

▪️Людмила Богатырева @government_IT
«Яндекс Музыка» начала маркировать треки, полностью или частично созданные с помощью ИИ. По оценке сервиса, такие композиции уже составляют 4,4% всего каталога и около 27% новых релизов. Получился разумный компромисс: ИИ-музыку не запрещают, но дают слушателю больше информации и возможность реже встречать ее в своей ленте. Теперь хотя бы будет понятнее, кто попал в «Мою волну» — новый артист или очень продуктивный алгоритм.

▪️Илья Гогуа @gogualive
Стартовала всероссийская просветительская акция по медиаграмотности. Урок состоялся в школе имени Маршала В. И. Чуйкова, где работал Геннадий Старунов — выпускник МНМ, учитель ОБЖ и блогер, ушедший на фронт и героически погибший. Именно его идея обучать детей медиаграмотности легла в основу проекта, а сообщество Мастерской продолжило начатое им дело.

▪️Олег Капранов @toxic_digital
В России заработали сети 5G: на первом этапе в 16 городах доступ к высокоскоростному мобильному интернету пятого поколения получили около 10 млн человек. Услуги на базе 5G будут предоставлять операторы «большой четвёрки» – обладателям устройств на платформе Android. Доступ владельцев iPhone к 5G зависит от решения корпорации Apple, как мы и говорили.

▪️Георгий Лобушкин @lobushkin
Anthropic утверждает, что забанила несколько аккаунтов, пытавшихся создать биологическое оружие с помощью Claude. Всего компания раскрыла пять случаев. В них описывается, как пользователи с научной подготовкой обходили защитные механизмы и запрашивали информацию, которую потенциально можно применить при разработке биологического оружия. При этом в компании подчёркивают, что установить злонамеренность намерений нельзя, потому что эти же знания могут использоваться для создания вакцин, но на всякий случай аккаунты были заблочены.

▪️Алексей Парфун @ParfunA
Вопрос уходящей эпохи: кому принадлежат отношения с аудиторией, бренду или человеку в кадре? Новые медиа сделали личность главным активом. Новейшие медиа сделают личность технологией, персонажа в них можно синтезировать, подачу менять под конкретного зрителя. Темп, аргументы и эмоциональную дистанцию настраивать в реальном времени.

▪️Павел Пряников @tolk_tolk
Много сегодня говорят о том, что ИИ выходит из-под контроля человека и уже чуть ли не готов зажить самостоятельной жизнью. В Anthropic считают, что ИИ — это отражение свойств человека. Совокупности людей. Грубо говоря, на чём обучается ИИ, так он и будет работать. И мне вспомнилось, что ещё в 1960-е годы на такие проблемы ИИ обращал внимание великий советский философ, неомарксист Эвальд Ильенков. Да, в СССР уже в 1960-е годы открыто и официально в научной среде дискутировали об ИИ.

▪️Михаил Шурыгин @shuryginit
Китайские хакеры почти восемь лет прятали атаки на американскую критическую инфраструктуру за чужими роутерами и IoT-устройствами по всему миру. Главный вывод здесь даже не про Китай. Доверять соединению только потому, что оно пришло с «местного» IP-адреса, сегодня примерно так же «разумно», как пропускать человека в ЦОД по прописке. А забытый роутер без обновлений может однажды стать не просто дырой в домашней сети, а прикрытием для государственной кибератаки.

🔹 Каналы экспертов РОЦИТ

Подписчики спрашивают, как я отношусь к инициативе Минцифры ввести обязательную предустановку российского ИИ-ассистента на смартфоны и прочие гаджеты.

А если я хочу оставить всё как есть? Я же выбираю телефон, исходя из его возможностей, к которым относится встроенный ИИ? Почему меня хотят заставить устанавливать вместо него что-то другое, что я даже удалить потом не смогу? Пишут, что еще и с полным доступом ко всем моим приложениям, включая банковские. Не кажется ли вам, что это, мягко говоря, избыточное требование?

Начнем с того, что существующий механизм предустановки работает не так радикально: это лишь окно с рекомендуемыми приложениями, которое появляется при первом включении гаджета. Я уверен, что никто не собирается заставлять производителей смартфонов заменять их встроенный ИИ-ассистент на российский. Но если пользователь осознанно выбирает отечественное решение, было бы правильно предоставить ему те же возможности интеграции с системой. Впрочем, насколько мне известно, полный доступ к банковским и прочим приложениям к ним не относится.

Интересный факт: «окно выбора» приложений по умолчанию и поисковых систем практикуется в разных странах. И когда, например, обсуждался DMA, в европейских медиа появлялась критика с теми же тезисами: искусственное ограничение конкуренции, давление на рынок и т.д. В нашем случае еще добавился драматический тейк про «неудаляемость». Так что рассматривать всё это нужно скорее как защитную пиар-реакцию цифровых экосистем, принадлежащих большим корпорациям.

И в этом противостоянии мои симпатии однозначно на стороне российских разработчиков.

🇷🇺 Этот пост вышел в МАКС час назад

Выявление дипфейков названо одной из приоритетных задач правительственной концепции повышения уровня цифровой грамотности граждан РФ. Среди других приоритетов – разработка единых правил по безопасному поведению в цифровом пространстве, составление типовых алгоритмов правового реагирования на киберпреступления и рекомендаций по взаимодействию с искусственным интеллектом.

Концепция предполагает, что все эти правила и рекомендации будут доведены до самого широкого круга: учебные модули по цифровой грамотности включат и в корпоративные стандарты, и в программы обучения госслужащих, и в школьные дисциплины. Все образовательные материалы будут доступны на специально созданной для этих целей единой национальной цифровой платформе. Также планируется широкая информационная кампания, в которой задействуют каналы социальной рекламы и лидеров общественного мнения.

Буквально пару месяцев назад на дискуссионной площадке «Единой России» вместе с экспертами и общественниками мы обсуждали системные меры для повышения цифровой грамотности общества. Большинство из сформулированных нами предложений (обеспечение граждан актуальными методматериалами по противодействию киберпреступникам, распространение в медиа реальных историй жертв мошенников, усиление школьной программы по направлению медиаграмотности) нашли отражение в концепции, принятой Правительством РФ.

Конечно, успех концепции будет зависеть от того, как она будет реализована. Будем внимательно за этим наблюдать.

🇷🇺 Этот пост вышел в МАКС час назад

Не скажу, что меня сильно удивила новость о партнерстве Nebius и Palantir. Да, казалось бы, Аркадий Волож и Алекс Карп находятся на разных идеологических полюсах: один выступал за либеральные ценности и ответственность бизнеса перед обществом, другой считал, что технологии должны принадлежать государству. Волож строил себе образ пацифиста, гендиректор Palantir восхищался сильной армией и называл ИИ супероружием. Что же, получается, кто-то из этих двоих поступился своими принципами?

Ничего подобного. И Волож, и Карп, прежде всего, бизнесмены. Их главная цель – заработать миллионы, а медийный образ может быть каким угодно и даже жить своей жизнью. Волож любил примерять на себя имидж либерала, Карп шокирует публику технофашистской риторикой, но любовь к деньгам сильнее любых публичных заявлений. Так что нет смысла анализировать причины, по которым якобы пацифист Волож стал партнером компании, чей ИИ наводил ракеты на мирные дома.

Поэтому и ответ на вопрос, кто же будет задавать общий тон в этом союзе, вполне понятен. Продавать ИИ-решения военным гораздо выгоднее, и можно смело констатировать, что бизнес Аркадия Воложа теперь не строительство дата-центров, а обслуживание иностранных генералов.

🇷🇺 Этот пост вышел в МАКС час назад

Телевизоры шпионят за людьми – теперь это доказанный факт. Исследователей из Gamer Nexus заинтересовала необычная сетевая активность новой линейки смарт-ТВ производства компании LG. Выяснилось, что устройства, находясь в режиме ожидания, записывают звук и сканируют локальную сеть, получая идентификаторы других гаджетов и сигналы от Wi-Fi-роутеров. Эта информация шифровалась, после чего уходила, предположительно, на сервера подразделения LG, ответственного за таргетированную рекламу.

Но самый тревожный вывод исследования: доступ к этой информации могли получать не только рекламщики, но и злоумышленники. Операционная система WebOS содержит ряд уязвимостей, которые позволяют получить несанкционированный доступ к собранной телевизором информации (а это буквально все разговоры, которые происходят рядом с ним). Официальной реакции LG пока не последовало – как и не было анонсировано обновлений операционной системы, закрывающих уязвимости.

По разным оценкам, во всем мире сейчас эксплуатируется порядка 200 млн умных телевизоров LG. Видимо, сейчас компания оценивает юридические последствия от признания проблемы, и они могут оказаться очень серьезными. Совет владельцам смарт-ТВ (особенно серии LG OLED): до появления какой-либо новой информации лучше отключить его от сети – и кабеля, и Wi-Fi – а для просмотра онлайн-кинотеатров использовать ТВ-приставку от надежного производителя.

🇷🇺 Этот пост вышел в МАКС час назад

Российская судебная система начала использовать искусственный интеллект. Об этом заявил председатель Верховного суда РФ Игорь Краснов, выступая на Форуме председателей верховных судов стран БРИКС. По его словам, нейросети используются для текстовой расшифровки заседаний, анализа доказательств и формирования шаблонов документов. Кроме того, в пилотном режиме уже тестируются большие языковые модели, которые обучаются на правовых позициях ВС и судебных решениях. Цель – добиться единообразия судебной практики, исключить логические противоречия и повысить предсказуемость правосудия.

Россия предлагает партнерам по БРИКС сформировать по направлению ИИ постоянно действующую рабочую группу верховных судов, в задачи которой войдет обмен судебной практикой, методологическими подходами, оценка сопутствующих рисков. Кроме того, предлагается разработать общие этические принципы применения ИИ в судопроизводстве. По мнению Игоря Краснова, в них должна быть закреплена независимость судьи и право сторон знать основания вынесенного решения.

Я много раз говорил, что в таких чувствительных сферах, как госуправление и судебная система, искусственный интеллект не должен принимать решения: это может сделать только человек. Принципы, которые формулирует высший судебный орган, считаю абсолютно справедливыми, и буду рад, если коллеги по странам БРИКС сформируют на их основе общие этические подходы. Как вы считаете, нужно ли также закрепить законом право гражданина на судебное разбирательство без участия ИИ? Напишите свое мнение в обратную связь.

🇷🇺 Этот пост вышел в МАКС час назад