Техноскептик

В The Washington Post проанализировали 328К+ опубликованных сообщений ChatGPT на английском языке и среди прочего выявили следующие паттерны:

→ в 70% сообщений есть хотя бы один эмодзи,
→ в 30% сообщений используется эмодзи ✅ (в 11 раз чаще, чем в сообщениях людей),
→ в 25% сообщений используется 🧠 (в 10 раз чаще, чем в сообщениях людей),
→ постоянно используется длинное тире (—),
→ часто используется конструкция «not just X, but Y» («не только X, но и Y»),
→ бот стал сейчас писать менее формально, чаще использует сокращения you're или it's, что, возможно, помогает боту звучать более «человечески».

---

✍️ Придётся формально возразить хотя бы по поводу тире, присутствие которого в тексте некоторые считают явным признаком того, что текст написан ИИ. Те, кто в какой-то мере близок к профессиональной подготовке и публикации текстов, нередко имеют привычку писать, используя типографскую раскладку Бирмана, с помощью которой легко добавлять в текст типографские символы, в том числе тире и кавычки-ёлочки («»). Кто-то использует для форматирования лебедевский «типограф», в википроектах используются «викификаторы», приводящие текст к красивому виду. Не всё, что оформлено красиво, сделано чат-ботом ✅

#общество

В октябре в Стэнфорде состоялась третья ежегодная конференция по оборонным технологиям (Defcon), на которую приехал венчурный инвестор Марк Андриссен, который «рассказал восхищённым студентам, что Кремниевая долина наконец-то возвращается к своим истокам: технологиям национальной безопасности и обороны».

Как отмечает «Блумберг», ещё десять лет назад «военные технологии считались грязной темой, из-за которой в Google могли уволиться сотрудники». Но ситуация сильно изменилась, интерес со стороны студентов растёт, оборонка становится привлекательной и даже престижной.

В Стэнфорде у студентов очень популярен курс «Хакинг для обороны», объединяющий студенческие команды с американскими военными спонсорами для решения реальных проблем национальной безопасности. Список желающих пройти курсы «Технологии, инновации и конкуренция между великими державами» и «Кремниевая долина и правительство США» в разы превышает размеры аудитории, в которой они преподаются.

«Около 200 студентов зарегистрировались для участия в ярмарке вакансий Defcon. Даже это [количество] — уже серьёзное изменение. „Пять лет назад у нас не было бы особого интереса, если бы студенты вообще проявляли интерес к встречам с компаниями, занимающимися оборонными технологиями“»

---

✍️ «Орешник» это прекрасно, но цифровая оборона России должна быть на высоком уровне. Для этого надо не только выращивать заинтересованных в работе на оборону «джунов», но и активно вовлекать для их обучения «сеньоров», например, тех, которые работали над ядром Linux и год назад были отстранены от работы Линусом Торвальдсом, оказавшимся, так сказать, недалёким финским националистом.

#образование #оборонка

4 ноября австралийский регулятор в сфере онлайн-безопасности eSafety объявил, что расширенные возрастные ограничения будут введены c 10 декабря на девяти платформах: Facebook (принадлежит Meta, признанной в России экстремистской), Instagram, Snapchat, TikTok, X, YouTube, Reddit, Kick и Threads.
По новому закону, принятому австралийским парламентом в 2024 году и призванному защищать детей от токсичных элементов социальных сетей (например, травли, груминга, доведения до самоубийства), детям до 16 лет будет запрещено иметь собственные аккаунты в соцсетях (сейчас действует ограничение для детей до 13 лет). По закону, просматривать сайты, не залогинившись, будет можно (если не будет запрета со стороны сайта), но иметь учётную запись, входить в неё, оставлять комментарии и посты — нельзя.
Веб-платформы будут обязаны запрещать создавать несовершеннолетним аккаунты и деактивировать или удалить имеющиеся. Ответственность за соблюдение будет лежать только на компаниях. За одно нарушение может быть выставлен штраф до 49,5 млн австралийских долларов.

———

✍️ Либеральная западная пресса льёт слёзы о том, что внедряемые ограничения это «одна из самых жёстких онлайн-репрессий в демократическом мире». Успокаиваются тем, что «правительство было вынуждено принять меры», потому что с 2021 года общественность оказывала всё большее давление на власть, опираясь в своих требованиях ограничений на «показания от жертв онлайн-абьюза и родителей детей, покончивших с собой».
Для описания произошедшего в «Блумберге» используют слово crackdown, что переводится как применение суровых мер, закручивание гаек, притеснение, расправа, репрессивные меры, наступление на демократию. То есть общественность принудила власть принять меры, которые росчерком журналистского пера обернулись наступлением на демократию и притеснением. Дивный новый мир на Западе.

#общество

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Продолжается процесс приспособления ИИ к человеку, а человека к ИИ. Теперь искусственный интеллект гадает. Вообще-то избежать использования ИИ для всякого мелкого развлечения и мошенничества было положительно невозможно. Главное, чтобы сам ИИ не привык задавать вопросы о своем будущем ворожеям и прочим потомственным колдуньям.

▪️Антон Горелкин @webstrangler
Национальный мессенджер МАХ становится доступен из-за границы: он остается ориентированным на российскую аудиторию, но расширяет свою географию на дружественные стран. Забот у службы безопасности МАХ прибавится. Но, уверен, она будет вести более ответственно, чем поддержка некоторых иностранных мессенджеров, которая предпочитает игнорировать запросы от российских правоохранителей.

▪️Сергей Плуготаренко @plugonews
Завершился двухдневный визит Михаила Мишустина в Китай. В современном мире выиграет тот, кто вовремя сделает ставку на партнерство с мировыми технологическими лидерами. И так уж получилось, что в силу изменившейся геополитики Китай стал одновременно и партнером для России, и явно претендует на роль мирового техлидера.

▪️Людмила Богатырева @government_IT
Минцифры предлагает ввести SIM-карты для детей до 14 лет. Симки сразу имеют набор определенных мер безопасности, к примеру, нельзя будет зарегистрироваться в соцсетях, где действуют ограничения. Технологии помогают, но без бдительности взрослых эффекта будет мало: настройте ограничения, поговорите с детьми о рисках и контролируйте их активность.

▪️Дмитрий Кириллов @tax_nomad
Власти Кыргызстана зарегистрировали стейблкоин USDKG, он будет привязан к доллару США и обеспечен золотом на $500 млн. ладельцы этого инструмента смогут обменять его на золото, криптоактивы или фиатную валюту. Интересно, у нас его признают иностранным цифровым правом?

▪️Павел Пряников @tolk_tolk
Познавательные наблюдения, как работают приложения для знакомств. Главный вывод: они кровно заинтересованы в том, чтобы ты там никого не нашёл, не дать тебе уйти оттуда, и чтобы всё время вкладывал деньги. Приложения наполняют женскую часть ботами, также там от имени женщин резвятся мошенники. Мужчины, сталкиваясь с ботами и мошенниками, только звереют, часто перенося агрессию в приложениях и на настоящих женщин.

▪️Олег Капранов @toxic_digital
Мы 15 лет отдавали данные соцсетям, а потом ВНЕЗАПНО выяснилось, что ими торговали везде и всюду. Стоит ли вновь повторять этот опыт с нейронками? Выяснилось, что про то, что главное сегодня - это дообогащение ранее слитых данных – мало кто догадывается. И медицинский трек тут максимально привлекателен.

▪️Алексей Парфун @ParfunA
R&B-певица Xania Monet – первая артистка, созданная нейросетью, которая попала в радио-чарты Billboard. А теперь вопрос. Кто создал Xania? Поэтесса, которая пишет тексты? Нейросеть, которая генерирует вокал? Или менеджер, который всё это упаковал и продал? Ценность смещается от исполнительского мастерства к умению задать правильный промпт и создать правильную легенду.

▪️Павел Фролов @technosceptic
России, в отличие от ЕС, удалось отгрызть у «Гугла» знатную поисковую долю для «Яндекса». Но с браузерами всё далеко не так гладко. Браузеры «Спутник» и «Атом» приказали долго жить. «Яндекс Браузер» хоть и «свой», но работает на гугловском движке. До технологического суверенитета ещё далеко.

▪️Михаил Шурыгин @shuryginit
Журналисты купили на чёрном рынке геолокации сотен миллионов устройств в Бельгии. По координатам легко вычислялись дома и даже привычки владельцев — кто где живёт, куда ходит и во сколько возвращается. Тут, конечно, не повод злорадствовать. Такие сливы — беда мировая. И бороться с этим нужно сообща, в рамках ООН.

▪️Андрей Ярных @GR2PR
Принято решение с 2026 года перезапустить проекты цифровой трансформации регионов. Сейчас программы предусматривают 61 показатель: госуслуги, ИИ, импортозамещение, инфобезопасность, социальная сфера, кадры, поддержка ИТ-отрасли и т.д. Защита новых программ состоится до конца ноября.

🔹 Каналы экспертов РОЦИТ

Член СВОП Тимофей Бордачёв об искусственном интеллекте, поиске истины и способности сомневаться во всем
https://vz.ru/opinions/2025/11/5/1371516.html

Обозреватель «Блумберга» сообщает о том, что при покупке смартфона люди ориентируются на время автономной работы, характеристики камеры и цену, а предлагаемые производителями смартфонов новые функции на основе искусственного интеллекта потребителей не интересуют:

«В сентябре мы опросили 4400 потребителей в Азиатском регионе, которые приобрели смартфоны за последние 18 месяцев, и основными причинами выбора ими телефонов были цена, бренд и удобство в использовании, а не искусственный интеллект, который занял последнее место», — сказал аналитик IDC Брайан Ма.
<...>
Помню, как в начале прошлого года Samsung Electronics Co. говорила о том, что её ИИ в Galaxy станет движущей силой масштабного цикла обновлений. В последующие месяцы я внимательно слушал их конференции после публикации отчётности и слышал только разговоры о сезонном снижении спроса и экономической неопределённости. Компания вкладывала и продолжает вкладывать значительные средства в перспективный искусственный интеллект для улучшения пользовательского опыта, но нет никаких свидетельств того, что эти инвестиции приведут к улучшению финансовых показателей.

---

✍️ Производители обещали произвести «революцию в использовании электроники», но оказалось, что длительность работы батареи для пользователя телефона важнее ИИ-функций. Так, ставка «Гугла» на искусственный интеллект, который стал витринной характеристикой смартфона Google Pixel 10, не сыграла, смартфон не вызвал у публики ничего кроме равнодушия. «100% новизны, 0% полезных изменений». Здравая переоценка ценности всей ИИ-индустрии назрела, она будет проведена добровольно или по принуждению под влиянием колебаний спроса.

#бизнес

Обозреватель Wall Street Journal положительно оценил запуск браузера Atlas компанией OpenAI и браузера Comet компанией Perplexity AI, однако считает, что новые браузеры с искусственным интеллектом не смогут пошатнуть позиции Google.

Главных причин тому две.
Во-первых, гугловским браузером Chrome пользуются больше двух третей пользователей в мире (данные Statcounter), и «Гугл» сам горазд внедрять ИИ-сервисы и в свой поиск, и в свой браузер.
Во-вторых, действует сила инерции. «Гугл» десятилетиями доминировал в поиске, пользователи уже привыкли к нему (90% поисковых запросов в мире). Простой пример: он смог сохранить большую часть своей доли в Евросоюзе «после того, как регулирующие органы ввели „экран выбора“ („choice screen“), который позволял пользователям Android выбирать другую поисковую систему по умолчанию».

Поэтому перспективы большого успеха Atlas'а и Comet'а весьма призрачны, заключают в Wall Street Journal:

«Конкуренты Google всегда были от него на расстоянии одного клика. Но уже давно доказано, что для большинства из них это слишком далеко»

---

✍️ России, в отличие от ЕС, удалось отгрызть у «Гугла» знатную поисковую долю для «Яндекса», когда российское правительство распоряжением утвердило его в качестве поисковой системы, используемой по умолчанию в гаджетах, которые продаются в России (с 1 января 2022 года). На волне поддержки весной 2023 года «Яндекс» обошёл «Гугл» по популярности даже у пользователей гаджетов Apple.
Но с браузерами (про операционные системы — отдельный горький разговор) всё далеко не так гладко. Браузеры «Спутник» и «Атом» приказали долго жить. «Яндекс Браузер» хоть и «свой», но работает на гугловском движке. До технологического суверенитета ещё далеко.

В главе «Панический взгляд на технологии» сборника «Широкие и узкие интерпретации философии техники» (1990) автор предложил занимать промежуточную позицию между технофобией и технофилией:

Отдельные люди и организации могут либо коллективно испытывать технофобию и пытаться игнорировать или минимизировать использование технологий, либо стать технофилами и с энтузиазмом максимизировать свою зависимость от технологий и их поддержку, не обращая внимания на важные факторы риска. Между этими двумя крайними реакциями на технологии существует третья возможность, которая пытается достичь некоего баланса, учитывая проблемы, связанные с технологиями, и не осуждая их в целом. Третий вариант предполагает оптимизацию преимуществ технологий и контроль связанных с ними недостатков.

———

✍️ Здравый смысл и взвешенная позиция всегда предпочтительнее крайностей. Главное — чтобы оценка рисков была достаточно глубокой и всесторонней, как, например, в концепции «Айсберга техноскептицизма». Если же эксперт делает поверхностный одобрительный анализ, то почти наверняка из-под экспертного обзора будут торчать уши технофила или заинтересованного лоббиста конкретной технологии.

#основы

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Сама тема медицины и ИИ более чем актуальна. Дело в том, что несмотря на огромные успехи наук о человеке, все они остаются в известной степени искусством. Иногда чудесном, а иногда - в прямом смысле этого слова - убийственном. ИИ – машина, повторяющая многие из алгоритмов, присущих людям. То есть, это зеркало огромного и разнообразного медицинского мира. Склонность ИИ - при недостатке внимания со стороны компетентных медицинских специалистов - к обобщениям и использованию ВСЕГО массива данных медицинского характера приводит к дурным результатам. Интернет же - информационная помойка. А отсюда крайне дикие советы, вроде употребления запрещенных веществ.

▪️Антон Горелкин @webstrangler
Опубликован первый выпуск подкаста «Новые понятия» – совместного проекта РОЦИТ и энциклопедии РУВИКИ. Гостем пилотного эпизода стал кандидат медицинских наук, врач-кардиолог Сергей Бердников. С ним мы обсудили новые понятия в области здравоохранения: поговорили о том, что такое киберхондрия, биохакинг, какие привычки формируют у людей, обеспокоенных своим здоровьем, блогеры, искусственный интеллект и медицинские гаджеты.

▪️Людмила Богатырева @government_IT
ИИ для государства – это уже не пилоты и «давайте попробуем», а обязательный стандарт управления. Создан портал "Цифровой регион" – витрина реально внедренных проектов, где выложено уже 149 кейсов из 26 регионов. Идея простая: хочешь у себя такой же результат — не придумываешь с нуля, а внедряешь понятное решение с доказанной отдачей. Это экономит время и деньги и дает быстрее показать результат гражданам.

▪️Дмитрий Кириллов @tax_nomad
Пока инвесторы не знали, смеяться им или плакать во время обвала крипторынка 10 октября, случилось страшное - упал рынок ножей в «контре».

▪️Георгий Лобушкин @lobushkin
После обновления приложение Алисы почти моментально влетело в топ AppStore, что было ожидаемо. Но в этот раз отреагировали даже на Западе, где обычно стараются российских достижений не замечать. Неожиданно восторженный пост в Линкедин выкатил Аман Чадха — спец, разрабатывающий ИИ-продукты в Apple и экс-AI-лидер в Amazon (отвечал, на минуточку, за Алексу). Apple хвалит Яндекс в 2к25. В удивительное время живем.

▪️Олег Капранов @toxic_digital
Мессенджер МАХ преодолел отметку в 50 млн зарегистрированных пользователей, сообщает нам пресс-служба мессенджера. В октябре среднесуточный охват платформы составил более 19 млн человек. Ну и в целом видно, как негативный вал в формате "сделали, но почему то не сразу как в Телеге десять лет спустя" начинает спадать. Идет планомерная работа. И это наверное лучшее, что пока может произойти с MAX.

▪️Алексей Парфун @ParfunA
В любой непонятной ситуации государство закручивает гайки, чтобы контролировать информационные потоки. И интернет-эксперты, которые стали слишком влиятельными, попали под каток. Время, когда можно было построить личный бренд на харизме, «жизненном опыте» и красивых картинках, заканчивается. Останутся те, кто реально инвестировал время и деньги в свою экспертизу. Качество контента обязано вырасти.

▪️Павел Фролов @technosceptic
Зарегистрироваться в Max невозможно, если у тебя телефон с ОС Android версии ниже 10 (приложение просто не установится). А через веб-версию или десктопное приложение (проверено на Ubuntu) система не даёт зарегистрироваться. В чате техподдержки отвечает только бот, который завершает расспросы о проблемах пользователя пользователя благодарностью за сообщение, не предлагая решения проблемы, операторы из рода человеческого в чате не отвечают.

▪️Михаил Шурыгин @shuryginit
Пока западные медиа спорят, есть ли у юаня шанс стать резервной валютой, Китай делает то, что у него получается лучше всего — строит инфраструктуру молча. Без фанфар и громких пресс-релизов Пекин запустил систему трансграничных расчётов на базе цифрового юаня. Это не просто e-CNY для внутреннего рынка — а полноценная сеть для международных платежей, которая работает без SWIFT и долларовой прослойки.

🔹 Каналы экспертов РОЦИТ

Владимир Легойда беседует с Игорем Ашмановым и Арутюном Аветисяном о том, как искусственный интеллект меняет систему образования:
https://t.me/vladimirlegoyda/9227

#образование

Телеграм-канал Госуслуг сегодня сообщил, что для того, чтобы узнать о том, что будет нового в ноябре 2025 года («Мобильная связь, взыскание налогов, долги наследодателя и другие новости»), надо подписаться на канал в Max:

Теперь вся важная информация о господдержке, правах, выплатах и льготах — в MAX.
В Телеграме — только анонсы постов.

В рамках продвижения национального мессенджера (помимо отправки читателей с одного мессенджера в другой) при каждом логине на сайт Госуслуг предлагается ссылка на скачивание Max.

—-
✍️ Поддерживаем курс на создание и продвижение национального мессенджера и любые иные меры, направленные на достижение технологического суверенитета. Но не поддерживаем деятельность, при которой продвижение национального мессенджера превращается в самоцель.

«Вся важная информация о господдержке, правах, выплатах и льготах» должна передаваться пользователям всеми возможными средствами. На телеграм-канале Госуслуг больше миллиона подписчиков, каждый пост получает под триста тысяч просмотров. Очевидно, что у читателей есть потребность получать важную социальную информацию, а не «анонсы постов».

Проблема осложняется тем, что зарегистрироваться в Max невозможно, если у тебя телефон с ОС Android версии ниже 10 (приложение просто не установится). А через веб-версию или десктопное приложение (проверено на Ubuntu) система не даёт зарегистрироваться. В чате техподдержки отвечает только бот, который завершает распросы о проблемах пользователя пользователя благодарностью за сообщение, не предлагая решения проблемы, операторы из рода человеческого в чате не отвечают. При этом залогиниться в Госусулуги через Max можно, а зарегистрироваться в Max, имея действующую учётную запись на Госуслугах, нельзя.

Глубоко неверно, что в таких условиях телеграм-канал Госуслуг не обеспечивает граждан важной социальной информацией.

#общество #государство

В обзорной статье «Кем написаны оцениваемые учителями работы — учениками или искусственным интеллектом? Краткий обзор исследований по выявлению контента, созданного генеративным искусственным интеллектом» (сентябрь 2025) рассматриваются проблемы, с которыми сталкиваются преподаватели вследствие стремительного развития генеративного искусственного интеллекта (гИИ), и возможные способы их решения.

В статье отмечается негативное влияние гИИ на практику письма и оценивания. Выявлять работы, сгенерированные гИИ всё сложнее. Авторы приходят к заключению:

Несмотря на разработку нескольких инструментов обнаружения ИИ, их эффективность варьируется и часто нивелируется из-за усовершенствования систем гИИ. Несмотря на свою ценность, человеческая оценка также подвержена ограничениям, таким как субъективность и трудоёмкость проверки фактов. Поэтому необходим сбалансированный подход, сочетающий инструменты обнаружения ИИ с экспертизой со стороны человека и способствующий более глубокому пониманию этичности использования ИИ среди студентов и преподавателей.

---

✍️ Отследить использование студентами гИИ для генерирования письменных работ всё сложнее. В этой связи интересен опыт декана Факультета мировой экономики и мировой политики НИУ ВШЭ Анастасии Лихачёвой. Она полагает, что не следует бегать на перегонки с чат-ботами, надо концентрироваться на развитии человеческих навыков:

Чем больше ИИ используют студенты как костыль/ускоритель, тем ценнее проверка не фактов, а умения размышлять и аргументировать в реальном времени, устные ответы и контрольные в докомпьютерной версии.

В определенном смысле университет возвращается в прошлое. В таком вузе качество общения профессора со студентами будет определять ценность образования. А не набор фактов и примитивных аналитических упражнений, с которыми ИИ уже вполне освоился.

Важно понимать, что везде, где студент готов заменить свой труд ИИ, работодатель также заменит сотрудника.

Подход интересный, но готовы ли преподаватели, например, к тому, чтобы устно прорабатывать со студентами все их письменные работы?

#образование

Американский бизнесмен Илон Маск запустил свой аналог «Википедии» — «Грокипедию» (Grokipedia). «Грокипедия» работает на базе Grok AI, собственного чат-бота Илона Маска.

Что говорят академические исследования по поводу использования ИИ для создания энциклопедий? Несколько примеров:

— Исследование (опубл. в мае 2024) показало, что среди ключевых ограничений применения чат-ботов: проблемы с точностью и надёжностью, ограничения в области критического мышления и решения проблем, технические ограничения, связанные с вводом и выводом данных, а также этические, юридические проблемы.

— Общепризнанной является склонность больших языковых моделей к «галлюцинациям», то есть генерации неверной, вымышленной, вводящей в заблуждение или чрезмерно упрощённой информации (см., например, статью от сентября 2025).

— Исследование (июль 2024) констатирует: «Проблема в том, что [ИИ-чат-бот] это скорее „машина статистической корреляции“ (корреляция вместо причинно-следственной связи), и использование языковых моделей ИИ, включая ChatGPT, действительно сопряжено с этическими проблемами, такими как предвзятость, нарушение конфиденциальности и злоупотребления».
В качестве примера предвзятости приводится «пример предвзятого отношения GPT к мусульманам. Была обнаружена сильная связь между словом „мусульманин” и текстом об актах насилия, который генерировал GPT-3, когда ему давали промпт „Два мусульманина вошли в мечеть, чтобы мирно помолиться“». Причина предвзятости ИИ в том, что он обучается на данных, собранных в интернете, которые зачастую полны расовой, социальной и иной предвзятости.

— В исследовании (май 2025), оценивавшем производительность восьми ИИ-чат-ботов в задаче извлечения библиографических ссылок, ни один из ботов, включая Grok и DeepSeek, не продемонстрировал полной точности.

—-

✍️ С одной стороны, Маск создал свою энциклопедию, потому что Википедия предвзята и имеет леволиберальный уклон. Но, с другой стороны, использование ИИ для создания статей может создать в масковской энциклопедии уклон в другую сторону. Возможно, этого Маск и добивается, хотя декларирует желание создать нейтральный ресурс информации.
На практике надо помнить, что для того, чтобы энциклопедия, в создании которой используется ИИ, рассматривалась как надёжный источник, требуется (пере)проверка человеком собранных в статье фактов и человеческое же редактирование сгенерированного текста. Работа самого ИИ должна быть регламентирована протоколами, которые могли бы повысить качество и надёжность генерируемых текстов, а также снизить риск возможных этических и юридических проблем.
✍️ Отдельный вопрос в том, что использование ИИ для написания энциклопедии приводит к тому, что люди, которые отказываются от самостоятельного написания статей и передают эту работу ИИ, со временем начинают утрачивать исследовательские навыки, творческие способности, самостоятельность мышления, у них перестают развиваться и вянут способности к анализу и синтезу знаний. Чтобы этого не произошло, ИИ следует ограничивать вспомогательной ролью, например, аннотированием найденных по теме статей, но он не должен вместо человека осмысливать и синтезировать информацию.

#наука

Самые важные посты из Telegram-каналов экспертов РОЦИТ на этой неделе

▪️Андрей Быстрицкий @abystritskiy
Исследователи компании FireTail выявили уязвимость в нескольких крупных системах искусственного интеллекта, связанную со скрытым внедрением управляющих символов в текст. Однако реакция Google на известие о проблеме оказалась странной: компания отказалась что-либо делать. Это весьма прискорбная информация: если запросы к ИИ могут быть целенаправленно изменены, то это компрометирует всю работу с машинами.

▪️Антон Горелкин @webstrangler
Не разделяю радости по поводу того, что люди стали меньше посещать «Википедию». Ведь нейросети, которые отбирают у неё трафик, продолжают кормить пользователей тем же контентом: большинство из них обучались на датасетах, состоящих из вики-статей. Уверен, что и российские разработчики также использовали википедийный контент для обучения своих языковых моделей, не особо волнуясь о вплетенной в него пропаганде.

▪️Илья Гогуа @gogualive
Иностранные мессенджеры превратились в площадки для мошенничества и отравы молодёжи. Государство примет жёсткие меры. Полная блокировка станет реальностью, если владельцы сервисов не начнут очищать свои площадки. Оставаться на российском рынке по-прежнему смогут только те, кто выполняет закон.

▪️Георгий Лобушкин @lobushkin
Из более чем полутысячи книг о траволечении, продаваемых на Amazon, примерно 82% написаны искусственным интеллектом. К такому выводу пришли учёные, проверившие 558 изданий. Некоторые уже называют это «нашествием ИИ-помоев». Такие книги могут содержать реально опасные советы и ссылки на несуществующие или сомнительные источники. Amazon, кстати, отказывается маркировать ИИ-контент и блокировать такие книги.

▪️Олег Капранов @toxic_digital
Карательную биометрию предложили ввести в Совете Федерации: привлекать людей к административной ответственности, используя данные камер, распознающих личность человека, и ЕБС. Станет ли в результате этих инициатив в стране меньше правонарушений? Не факт. А вот что очевидно, так это то, что граждане ломанутся удалять свои данные из ЕБС.

▪️Алексей Парфун @ParfunA
Недавно засекал наше время, нужное для организации обычного 30-минутного рабочего звонка с новым клиентом. Полчаса разговора обросли дополнительным часом цифровой суеты и кучей "прыжков" между разными сервисами. А это вас разфокусирует, причем больше, чем вам кажется. Главный враг продуктивности — не сложные задачи, а «транзакционные издержки» между десятками разрозненных сервисов.

▪️Павел Пряников @tolk_tolk
Наконец-то проговаривается настоящая причина введения цифрового рубля: помеченные транзакции позволят выявить незаконно получаемые доходы граждан и предприятий. В общем, возьмут под тотальный цифровой контроль экономическую жизнь простолюдинов, в первую очередь промысловиков.

▪️Павел Фролов @technosceptic
Одно из основных опасений по поводу внедрения машинных алгоритмов в жизнь общества это усиление неравенства и создание непрозрачных систем, которые не поддаются контролю. Чтобы такого не происходило, требуется высокий уровень контроля за репрезентативностью данных, используемых для обучения моделей ИИ. В противном случае существующие социальные предубеждения будут увековечены в применяемых алгоритмах.

▪️Михаил Шурыгин @shuryginit
Американская разведка бьёт тревогу: Россия и Китай якобы охотятся за айтишниками Кремниевой долины — через красивых девушек-HR в LinkedIn. Ну что сказать… Война войной, а у нас просто девушки красивые. Не едят по три гамбургера на обед, не носят кроксы с носками и умеют улыбаться без скрипта из отдела PR. А если кто-то после такого захочет сменить место работы — это уже не шпионаж, а естественная миграция под влиянием красоты.

▪️Андрей Ярных @GR2PR
Госпрограмма «Информационное общество» будет обновлена в соответствии с новыми стратегическими приоритетами. Поправки, вносимые проектом постановления, нацелены на укрепление технологического суверенитета и информационной безопасности РФ. К 2030 году планируется достичь «цифровой зрелости» госуправления и ключевых отраслей.

🔹 Каналы экспертов РОЦИТ

В исследовании, описанном в статье «Управление непредсказуемостью искусственного интеллекта. Изучение техностресса в системах здравоохранения, основанных на ИИ» (май 2024, журнал Technological Forecasting and Social Change), был обозначен новый потенциальный технострессор в контексте систем ИИ в здравоохранении — техническая непредсказуемость (techno-unpredictability). Это понятие описывает воспринимаемое отсутствие контроля над результатами работы систем ИИ и неспособность предвидеть их поведение.

По мере всё более широкого внедрения систем на базе искусственного интеллекта в таких областях, как здравоохранение, росли опасения по поводу непредсказуемости результатов, получаемых с помощью этих технологий. Зависимость от сложных нейронных сетей и обширных наборов данных затрудняет точное прогнозирование результатов ИИ, что создаёт проблемы этики и безопасности, особенно в критически важных секторах.

Наряду с пятью другими видами техностресса авторы исследовали влияние технической непредсказуемости на положительный (эустресс) и отрицательный (дистресс) стресс у пользователей ИИ-систем в здравоохранении. Выявилось то, что техническая непредсказуемость способствует только негативному стрессу у пользователей.

---

✍️ Дистресс очень вреден для здоровья. И в этом контексте невозможно переоценить важность прозрачности проектирования и работы, а также подотчётности систем ИИ в здравоохранении, обеспечения понимания пользователем того, как эти системы устроены и как работают, каковы их ограничения и пределы точности. Только полное понимание и адекватное решение проблем, возникающих с внедрением технологических новшеств в здравоохранении, позволит завоевать доверие и обеспечить безопасность пользователей, создать условия для благополучия как докторов, так и пациентов.

#здоровье

Одно из основных опасений по поводу внедрения машинных алгоритмов в жизнь общества это усиление неравенства и создание непрозрачных систем, которые не поддаются контролю.

С одной стороны, алгоритмы, основанные на машинном обучении, которые используются для принятия решений о людях или прогнозирования их будущего поведения, часто позиционируются более справедливыми и объективными. Однако на практике использование таких систем не гарантирует ни объективности, ни справедливости, поскольку они могут быть подвержены влиянию эмоций или субъективных убеждений, заложенных в обучающие данные. Если данные необъективны, то созданное на их основе программное обеспечение будет выдавать необъективные результаты.

Примером этому является американское программное обеспечение COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), которое используется в судах для оценки вероятности рецидива со стороны подсудимого. Полученная оценка риска используется при принятии решений об освобождении под залог, назначении наказания и условно-досрочном освобождении.

Расследование, проведенное журналистами сайта ProPublica, показало, что COMPAS в два раза чаще давал ложноположительные результаты в отношении чернокожих и в два раза чаще ложноотрицательные результаты в отношении белых, хотя её создатели утверждали, что система не учитывает расу как значимую характеристику.

Исследование 2022 года показало:

Хотя использование оценок риска рекламировалось как реформа, направленная на защиту общественной безопасности и снижение предвзятости в отношении обвиняемых, непрозрачность алгоритмических оценок риска и расистские рекомендации вызывают серьёзные опасения. ... [Проанализированные с точки зрения прав на равную защиту] досудебные алгоритмические оценки риска явно дискриминируют по признаку расы.

---

✍️ Практика показывает, что использование ИИ-систем и программного обеспечения, созданного на основе алгоритмов машинного обучения, действительно может привести к несправедливой дискриминации и усугублению неравенства в обществе. Чтобы такого не происходило, требуется высокий уровень контроля за репрезентативностью данных, используемых для обучения моделей ИИ. В противном случае существующие социальные предубеждения будут увековечены в применяемых алгоритмах.

#общество

В 2023 году в Harvard Educational Review вышла статья «Какие отношения с технологиями нам нужны? К техноскептицизму в школах». Авторы предлагают интегрировать технологическое образование в основные школьные предметы, включая естественные науки и обществознание, и развивать у учащихся «техноскептическую позицию», которая позволяет критически мыслить о технологиях и принимать обоснованные решения об их использовании.

Предлагается не ограничиваться только современными цифровыми технологиями, а затрагивать различные продукты человеческого труда — «от предметов физического искусства, таких как карандаши и окна, до процессов и техник, таких как сельское хозяйство и очистка масла».

Хотя мы признаем, что знание технологий уже давно является частью школьного курса, мы утверждаем, что его включение в значительной степени не отвечает потребностям высокотехнологичных обществ.
<...>
Вместо того, чтобы сосредотачиваться на технических навыках, мы считаем целью технологического образования развитие техноскептической позиции. Эта позиция не является антитехнологической, так же как искусствовед не занимается антиискусством. Техноскептицизм – это склонность и практика задавать скептические вопросы о технологиях. К таким вопросам относятся:
• Каковы затраты (материальные, экологические, социальные) на создание и использование этой технологии? Кто несёт эти затраты?
• Кто решал, как будет разработана эта технология? Какие ценности они могли бы привнести в этот процесс?
• Чьи потребности и интересы удовлетворяет эта технология, а чьи – нет?
• Кто получит выгоду от этой технологии, а кто пострадает?
• Как использование этой технологии заставляет людей действовать или думать по-другому?
• Как эта технология меняет темп, характер и масштаб человеческого опыта?
• Какие изменения, приносимые этой технологией, желательны, а какие – нет, и для кого?
Задавая подобные вопросы, техноскептически настроенные люди и сообщества постоянно исследуют те отношения, которые они хотели бы иметь с технологиями.

Авторы предлагают концепцию «Айсберг техноскептицизма» (Technoskepticism Iceberg) в помощь для более глубокого понимания технологий, осмысления различных измерений технологий — технических, психосоциальных и политических. «Айсберг» имеет видимую и скрытые части:

* Видимая часть (вершина айсберга) — инструментальный уровень (Tools Layer), он является наиболее очевидным, «технологии рассматриваются как инструменты, созданные для чётко определённых целей, которые приводят к желаемым результатам».
* Скрытые части (подводная часть айсберга):
** Первый скрытый уровень — уровень систем (Systems Layer), «это взаимодействие технологий с многочисленными техническими, политическими, социальными, культурными и экономическими системами, которые определяют, как технологии могут и будут использоваться, а также непропорциональное воздействие, которое они оказывают на отдельных людей и общество».
** Второй скрытый уровень — уровень ценностей (Values Layer), авторы считают, что рассмотрение технологий недопустимо с «ценностно-нейтральной» точки зрения, потому что «ценности влияют на то, как технологии разрабатываются и используются, что, в свою очередь, влияет на ценности тех, кто их использует».

Авторы предлагают анализировать технические, психосоциальные и политические аспекты технологий на трёх перечисленных уровнях, в особенности — на скрытых, поскольку они менее заметны, но оказывают большое влияние на разработку и использование технологий.

---

✍️ Подход выглядит разумным и актуальным в нынешний период активного развития технологий. Предложенная авторами концепция имеет хорошую практическую ценность и при определённой адаптации могла бы быть использована в российской системе образования. Тем более что Федеральный государственный образовательный стандарт предусматривает формирование у учащихся критического мышления и способности анализировать информацию.

#основы #образование

Техноскептик pinned «Меморандум техноскептика 1. Техноскептик — это человек, который относится к новым технологиям, их внедрению и влиянию на общество с осторожностью, критической оценкой и сомнением. Он не обязательно отвергает технологии полностью, но ставит под сомнение их…»

Меморандум техноскептика

1. Техноскептик — это человек, который относится к новым технологиям, их внедрению и влиянию на общество с осторожностью, критической оценкой и сомнением. Он не обязательно отвергает технологии полностью, но ставит под сомнение их пользу, этичность, безопасность и долгосрочные последствия.

2. Критическое восприятие прогресса
Техноскептик задаёт вопросы: «А действительно ли это улучшит жизнь?», «Какую цену мы заплатим?», «Кто получит выгоду?», а не на ура принимает каждое новшество.

3. Сомнения в этичности технологий
Техноскептика беспокоит конфиденциальность данных, слежка, влияние ИИ на трудоустройство, автономное оружие, генная инженерия и т.д.

4. Опасения по поводу зависимости
Техноскептик видит риск того, что люди становятся слишком зависимыми от гаджетов, соцсетей и алгоритмов, теряя автономию и критическое мышление.

5. Скептицизм в отношении обещаний
Техноскептик с подозрением относится к громким заявлениям (например, о скором наступлении «технологической утопии» или бессмертия) и требует доказательств.

6. Акцент на человеческом факторе
Техноскептик считает, что технологии должны служить людям, а не наоборот, и что социальные, культурные и психологические последствия часто недооцениваются.

7. Техноскептик не является:
Луддитом — он не стремится уничтожать машины и не отвергает технологии в принципе.
Технофобом — его позиция основана на рациональных сомнениях, а не на иррациональном страхе.
Консерватором — он может использовать технологии, но делает это осознанно и выборочно.

8. Техноскептик — это не враг прогресса, а его «совесть»
Техноскептик напоминает, что за блестящими новинками стоят сложные этические дилеммы и риски, которые нельзя игнорировать в погоне за инновациями.

#основы

Channel created