Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Исследователи компании FireTail выявили уязвимость в нескольких крупных системах искусственного интеллекта, связанную со скрытым внедрением управляющих символов в текст. Однако реакция Google на известие о проблеме оказалась странной: компания отказалась что-либо делать. Это весьма прискорбная информация: если запросы к ИИ могут быть целенаправленно изменены, то это компрометирует всю работу с машинами.

▪️Антон Горелкин @webstrangler
Не разделяю радости по поводу того, что люди стали меньше посещать «Википедию». Ведь нейросети, которые отбирают у неё трафик, продолжают кормить пользователей тем же контентом: большинство из них обучались на датасетах, состоящих из вики-статей. Уверен, что и российские разработчики также использовали википедийный контент для обучения своих языковых моделей, не особо волнуясь о вплетенной в него пропаганде.

▪️Илья Гогуа @gogualive
Иностранные мессенджеры превратились в площадки для мошенничества и отравы молодёжи. Государство примет жёсткие меры. Полная блокировка станет реальностью, если владельцы сервисов не начнут очищать свои площадки. Оставаться на российском рынке по-прежнему смогут только те, кто выполняет закон.

▪️Георгий Лобушкин @lobushkin
Из более чем полутысячи книг о траволечении, продаваемых на Amazon, примерно 82% написаны искусственным интеллектом. К такому выводу пришли учёные, проверившие 558 изданий. Некоторые уже называют это «нашествием ИИ-помоев». Такие книги могут содержать реально опасные советы и ссылки на несуществующие или сомнительные источники. Amazon, кстати, отказывается маркировать ИИ-контент и блокировать такие книги.

▪️Олег Капранов @toxic_digital
Карательную биометрию предложили ввести в Совете Федерации: привлекать людей к административной ответственности, используя данные камер, распознающих личность человека, и ЕБС. Станет ли в результате этих инициатив в стране меньше правонарушений? Не факт. А вот что очевидно, так это то, что граждане ломанутся удалять свои данные из ЕБС.

▪️Алексей Парфун @ParfunA
Недавно засекал наше время, нужное для организации обычного 30-минутного рабочего звонка с новым клиентом. Полчаса разговора обросли дополнительным часом цифровой суеты и кучей "прыжков" между разными сервисами. А это вас разфокусирует, причем больше, чем вам кажется. Главный враг продуктивности — не сложные задачи, а «транзакционные издержки» между десятками разрозненных сервисов.

▪️Павел Пряников @tolk_tolk
Наконец-то проговаривается настоящая причина введения цифрового рубля: помеченные транзакции позволят выявить незаконно получаемые доходы граждан и предприятий. В общем, возьмут под тотальный цифровой контроль экономическую жизнь простолюдинов, в первую очередь промысловиков.

▪️Павел Фролов @technosceptic
Одно из основных опасений по поводу внедрения машинных алгоритмов в жизнь общества это усиление неравенства и создание непрозрачных систем, которые не поддаются контролю. Чтобы такого не происходило, требуется высокий уровень контроля за репрезентативностью данных, используемых для обучения моделей ИИ. В противном случае существующие социальные предубеждения будут увековечены в применяемых алгоритмах.

▪️Михаил Шурыгин @shuryginit
Американская разведка бьёт тревогу: Россия и Китай якобы охотятся за айтишниками Кремниевой долины — через красивых девушек-HR в LinkedIn. Ну что сказать… Война войной, а у нас просто девушки красивые. Не едят по три гамбургера на обед, не носят кроксы с носками и умеют улыбаться без скрипта из отдела PR. А если кто-то после такого захочет сменить место работы — это уже не шпионаж, а естественная миграция под влиянием красоты.

▪️Андрей Ярных @GR2PR
Госпрограмма «Информационное общество» будет обновлена в соответствии с новыми стратегическими приоритетами. Поправки, вносимые проектом постановления, нацелены на укрепление технологического суверенитета и информационной безопасности РФ. К 2030 году планируется достичь «цифровой зрелости» госуправления и ключевых отраслей.

🔹 Каналы экспертов РОЦИТ