Рубцов Захар | Gosapp Digital

Российские компании могут обязать использовать отечественный ИИ, даже если он окажется дороже альтернативы

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Как стало известно на днях, в правительстве обсуждают правило, по которому при выборе между суверенной и национальной моделью приоритет придется отдавать первой. Правда, есть условие – если стоимость этой самой суверенной модели не превышает стоимость национальной больше чем в 1,5 раза. Сообщается, что такое предложение поступило от «Сбера».

А в чём вообще разница этих моделей?

Суверенная модель ИИ полностью разработана российским юрлицом и работает только на инфраструктуре в РФ. К национальной же требования мягче – она в значительной степени разрабатывается отечественным юрлицом, но в её основе могут быть заимствованные решения с открытым исходным кодом. Проще говоря, суверенная – исключительно российская разработка. Национальная – может использовать внешние открытые технологии.

Сейчас под определение суверенной модели фактически подпадает только GigaChat от Сбера. В то же время Алису AI от Яндекса приводят как пример национальной модели.

Интересно здесь то, что государство постепенно переходит от простой поддержки российских разработчиков к формированию архитектуры самого рынка ИИ. Речь уже не только о том, какие технологии развивать, но и о том, какие модели считать допустимыми и приоритетными для определенных задач.

Для чувствительных сфер такая логика понятна. Например, когда речь идет о госуправлении, медицине или критической инфраструктуре. Но возникает другой вопрос: что делать, если среди разрешенных моделей просто не окажется решения нужного качества? На этот риск уже указывают сейчас некоторые участники рынка.

И здесь, пожалуй, проходит главная граница будущего возможного регулирования. Если суверенная модель немного уступает аналогу, это можно воспринимать как цену технологического суверенитета. Но если разрыв становится принципиальным, обязательное использование превращается в технологический компромисс.

🤔 В последнее время до постов практически не доходят руки, очень много работы. Дни голосования уже не за горами, штабы выходят на финишную прямую, поэтому сейчас тот самый период, когда задач становится всё больше, а свободного времени всё меньше.

Но рассказать при этом есть о чём! В этом сезоне мы активно используем на проектах свои технологии. И когда я говорю «свои», то имею в виду именно разработки команды Gosapp Digital – то, что мы сами придумали и собрали под реальные задачи штабов и наших проектов.

⚡️ Один из таких продуктов, который в этом сезоне стал для нас практически незаменимым – это Gosapp Monitor. Если совсем просто, это наша система мониторинга кандидатов и инфополя. Зачем она нужна? Допустим, вам необходимо проверить несколько сотен страниц во «ВКонтакте»: посмотреть, кто и что публиковал за определённый период, сколько было постов, какие темы поднимались, что писали в комментариях. И если посадить человека выполнять эту задачу вручную, скорее всего, даже одного рабочего дня будет мало. Gosapp Monitor собирает нужную информацию за несколько минут, после чего её можно выгрузить в человеческие отчёты и те самые «светофоры».

Но одна из самых интересных возможностей Gosapp Monitor даже не в этом.

Обычно такие мониторинги работают по довольно стандартной схеме: вы заранее загружаете список нужных страниц, после чего парсер проходит по ним и собирает информацию. Gosapp Monitor умеет работать гораздо шире и ищет данные по всему «ВКонтакте»!

Можно не знать заранее, на какой именно странице появится нужная информация. Мы просто задаём поисковый запрос, а дальше система сама проходит по огромному массиву данных и находит нужные упоминания в постах и комментариях. Причём речь действительно идёт о миллионах страниц, которые обрабатываются буквально за несколько минут.

🎯 Про Gosapp Monitor я ещё обязательно расскажу подробнее, потому что там довольно много интересного функционала. Как, собственно, и про другие наши разработки. Но лично мне во всей этой истории больше всего нравится другое. Многие инструменты, которыми мы сегодня пользуемся на реальных проектах, когда-то начинались просто с разговора внутри команды: «Слушай, а ведь было бы удобно, если бы мы могли сделать вот так».

1️⃣2️⃣3️⃣В итоге взяли и сделали.

Нейросети стали избирателями

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

— Представьте себе рай для штаба: больше не нужно ломать голову над тем, что волнует людей, какие лучше сделать АПМ, какие темы «разгонять» в интернете и прочее. Зачем все это, если избирателей теперь можно просто сгенерировать и спросить напрямую: «Вам нравится эта идея или нет?»

Группа исследователей решила разобраться, можно ли в избирательной кампании использовать так называемых синтетических избирателей. В чем суть: ИИ создает виртуальных людей с заданным возрастом, местом жительства и политическими взглядами. Потом этим «людям» показывают материалы и спрашивают, что они думают о кандидате или конкретном сообщении. Звучит почти идеально, ведь за короткое время можно проверить несколько гипотез через разные аудитории и понять, что потенциально «заходит», а что лучше сразу отправить в корзину.

Правда, сами исследователи пока предлагают относиться к технологии без лишнего восторга. Синтетические избиратели могут быть полезны, чтобы быстро проверить рабочую гипотезу, сравнить несколько вариантов сообщения или понять, что вообще имеет смысл нести на настоящую фокус-группу. То есть скорее как дополнительный фильтр перед нормальным исследованием, а не его замена.

И здесь начинается самое интересное: а кого вообще изображает нейросеть?

Самый простой способ – дать задачу а-ля «Тебе 47 лет, ты живешь в таком-то городе, голосовал за такого-то кандидата, работаешь там-то». Ну и попросить модель отвечать от имени этого человека. Получается своего рода цифровой ролевик.

Более сложные же системы пытаются моделировать не одного, а уже целые группы людей. Но и здесь обнаружился так называемый «эффект среднего персонажа»: типичного представителя аудитории ИИ воспроизводит неплохо, а вот с теми, кто ведет себя нестандартно, справляется заметно хуже.

Да и обычная фокус-группа ценна не только финальным ответом «нравится – не нравится». Иногда важнее увидеть, где человек запнулся, над чем задумался, с кем начал спорить и что внезапно его задело. Синтетический избиратель наверняка даст аккуратный ответ. Но это еще не значит, что настоящий человек поведет себя так же, как ИИ.

Нейросети в политике: дай штабу ИИ, он и лоб расшибет

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Раньше, чтобы запятнать репутацию оппонента, писали всякие нехорошие слова на заборах, расклеивали листовки и делали прочие гадости (осуждаем такие подходы, разумеется). А теперь в дело врываются технологии! Шикарный кейс из-за океана о том, как нужно использовать нейросети, чтобы это вышло боком для всего штаба.

В общем, есть в Калифорнии такой сенатор Скотт Винер, который очень хочет попасть в Конгресс США. Разумеется, не он один – желающих много. И вот талантливые технологи сенатора придумали способ борьбы с его главной соперницей Конни Чан. Идея на бумаге «гениальная»: сделать чат-бота на основе искусственного интеллекта, который будет выдавать себя за Чан (по сути, ее виртуальную копию).

Зачем? Пользователям предлагали задать вопрос виртуальной Чан, а та объясняла, почему очередную идею нельзя реализовать. Чувствуете креативный подход? Условно, человек пишет «кандидату»: «Давай построим дорогу?». А тот отвечает: «Нет, это глупо, не буду этим заниматься, отстаньте». Так команда сенатора хотела выставить соперницу политиком, который постоянно мешает делать хорошие дела. Но нужно признать: на сайте прям честно указали, что это пародия, оплаченная штабом сенатора.

Сначала все было здорово... Но чем больше мучили несчастную нейросеть, тем сильнее она начинала галлюцинировать, выдавая ответы с расовыми и гендерными стереотипами. Конни Чан родилась в Гонконге (это для справки) – так в одном из ответов чат-бот заявил, что у нее настолько сильный акцент, поэтому она сама себя едва понимает. В другом случае бот придумал несуществующий закон и сообщил, что сведения о гражданстве Чан засекречены.

За первые 27 часов система получила больше 5000 вопросов. Ответы, как вы понимаете, получились удачными далеко не все… Тут же на штаб Винера, в котором все это придумали, посыпались гневные обвинения от людей, чьи чувства были задеты. Сначала команда пыталась оправдаться, мол, люди намеренно провоцировали бота. Но потом свой провал все же признали. Сайт отключили, рекламные щиты решили снять. Даже официально попросили прощения.

Как говорится, эксперимент оказался неудачным. А сколько еще таких будет? Думаю, через пару лет наберется на целую книгу «Избирательные технологии: как не надо делать». Но хочется верить, что российских кейсов в ней будет немного. Правда, очень хочется…

«Этот текст написал ИИ»: в Европе будут маркировать политические публикации

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Европа продолжает активно вводить новые методы регулирования нейросетевого контента. Со 2 августа в Евросоюзе начали действовать требования AI Act. Что это такое? Теперь тексты, созданные или существенно переработанные искусственным интеллектом, нужно будет сопровождать специальной отметкой. И речь идёт не только о дипфейках или контенте, который пытается ввести в заблуждение.

Правило касается вообще всех материалов, которые информируют по ряду значимых вопросов. Это и политика, и выборы, и работа государственных органов, а также другие темы, способные вызвать общественную дискуссию. Таким образом, под эти требования вполне могут попасть пост кандидата или статья о решениях властей – конечно, в том случае, если текст действительно сгенерирован ИИ.

Но в европейских правилах есть важные исключения. Например, никакие маркировки не придется ставить, если текст прошёл полноценную проверку человеком и за его публикацию кто-то несёт редакционную ответственность. К сожалению (или к счастью), просто исправить запятые или заменить несколько слов будет недостаточно. Правила требуют, чтобы человек проверил смыслы и факты, изучил источники и прочее.

Главный вопрос: кто и как это будет проверять? В случае если после публикации текста кто-то подаст жалобу и проверку инициируют – автору придется объяснить, как именно этот текст готовился. Проверенных технических решений (автоматических детекторов), которые бы точно могли дать ответ, писал ли статью человек или ИИ, практически нет. Даже OpenAI (создатель ChatGPT) пару лет назад закрыла свой сервис по проверке текстов на авторство – из-за низкой точности. В итоге проверка скорее всего сведётся к банальному запросу объяснений, кто и как готовил материал, а также кто ответственен за публикацию.

В России пока действует более мягкий подход. В июле этого года Президент подписал закон о поддержке развития технологий искусственного интеллекта, согласно которому ИИ-сервисы и крупные социальные платформы должны будут предоставить пользователям возможность отмечать созданные нейросетями материалы. При этом самих авторов закон не обязывает пользоваться такой маркировкой.

🤔 Космический мусор падает на Землю каждую неделю. А кто заплатит за пробитую крышу?

Предлагаю немного разнообразить начало трудовой недели, отвлечься и поговорить о космосе! Точнее, о космическом мусоре (да-да, тема действительно интересная, читайте дальше). Многие привыкли думать, что космический мусор – это где-то там, на орбите. Мол, летают вокруг Земли старые спутники и куски ракет, которые иногда мешают космонавтам, а нас тут это особо не касается. Оказалось, что скоро все может сильно измениться…

📡 Только за прошлый год Космические силы США предупредили почти о 820 объектах, входящих в атмосферу. Для сравнения: 10 лет назад таких предупреждений было около 110. Теперь объекты весом от тонны и больше возвращаются на Землю примерно раз в неделю. Это не значит, что каждую неделю кому-то на дачу падает тонна железа, ведь большая часть конструкции сгорает в атмосфере или оказывается в океане. Но вполне может грохнуться и на чей-нибудь дом.

Например, огромная металлическая деталь ракеты упала на поле в Кении, а во Флориде небольшой фрагмент оборудования Международной космической станции пробил крышу жилого дома и два перекрытия. К счастью, никто не пострадал, но до первой действительно трагической истории, кажется, не хватает исключительно неудачного совпадения. И дело тут в том, что при запуске ракеты расчет зачастую строится на том, что аппарат полностью разрушится в атмосфере. Периодически этот расчет не срабатывает.

🎭 Но выдыхаем: пока вероятность получить спутником по голове все еще значительно ниже, чем вероятность получить удар молнией. Единственный широко известный случай попадания космического обломка в человека произошел еще в 1997 году – в Оклахоме падающий обломок ракеты упал на женщину, но обошлось без серьезных увечий.

🥴 А теперь напрягаемся вновь: как подсчитали эксперты, если спутниковые группировки продолжат расти (а они продолжат), к 2035 году космические обломки смогут ранить или убивать одного человека примерно раз в два года. Это не точный прогноз, а условная модель, но направление она показывает вполне понятно.

Самое интересное начинается после падения! Конвенция ООН от 1972 года говорит, что запустившее объект государство несет полную ответственность за ущерб на Земле. Но лично прийти к владельцу ракеты и потребовать компенсацию по этой конвенции не получится. Обращение должно подаваться через дипломатические каналы от одного государства к другому. И нужно будет еще доказать, от какого именно аппарата отвалилась деталь и кто юридически считается «запускающей стороной».

⚡️ А если на голову упадет кусок ракеты своей же страны? Тут конвенция вообще не применяется, и дальше все зависит от национальных законов. Даже решение специальной комиссии может оказаться лишь рекомендацией, если страны заранее не согласились считать его обязательным. Космическая страховка в один клик пока не завезена. Хотя, кто знает, как будет в будущем.

Нейросети идут на выборы: зачем ИИ-компаниям финансировать политические фонды

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Кажется, разработчикам искусственного интеллекта уже наскучило просто работать над новыми ИИ-моделями. Теперь они увлеклись новым занятием и пытаются влиять на тех, кто будет писать для них законы. Правда, пока что речь только о США. За первую половину текущего года OpenAI (ChatGPT) потратила на лоббизм в штатах $2,22 млн, а Anthropic (Claude) – $3,53 млн. Для обеих компаний это рекордные суммы.

В чём там вообще дело? Сейчас в Вашингтоне обсуждают, кто должен проверять новые модели искусственного интеллекта перед их «выходом в свет», можно ли штатам принимать собственные законы об ИИ и какие ограничения вводить на экспорт технологий. И, конечно, для крупных игроков результат этих споров может оказаться крайне важным.

Разберём отдельно на примерах. Есть в штатах фонд Leading the Future – по сути это политический комитет, который собирает деньги технологических инвесторов и тратит их на поддержку кандидатов, выступающих за благоприятные для ИИ-индустрии правила. К концу июня фонд собрал почти $75,8 млн. И его поддержали крупные технологические инвесторы, включая президента и сооснователя OpenAI Грега Брокмана с женой.

У Anthropic схема немного другая. Компания перечислила в общей сложности $40 млн организации Public First Action. Эта организация занимается продвижением более строгих правил для ИИ, объясняя политикам и избирателям, зачем такие ограничения нужны. При этом вокруг неё создана сеть из трёх политических фондов, которые также могут поддерживать подходящих кандидатов. Деньги Anthropic, по заявлению самой компании, помогают финансировать общую кампанию за усиление контроля над отраслью – якобы всё во имя добра, и никаких других интересов они не преследуют.

Получается довольно любопытная картина: представители одной индустрии финансируют противоположные политические лагеря. Leading the Future (в которую вкладывается OpenAI) выступает против множества отдельных ограничений на уровне штатов и продвигает единые федеральные правила. Public First (поддержка со стороны Anthropic), напротив, требует более серьёзных проверок и гарантий безопасности. В то же время эти два, казалось, конкурирующих лагеря иногда поддерживают одного политика. Например, стороны вложились в продвижение конгрессмена Джоша Готтхаймера, который занимается законодательством в сфере ИИ.

Думаю, ни для кого не станет откровением, что дальше присутствие ИИ-компаний в политике будет только усиливаться. Будет расти финансирование фондов, будут разворачиваться новые информационные кампании. С одной стороны, сам же по себе диалог бизнеса с государством вполне нормален. Что здесь такого? Но вот в случае с ИИ-гигантами ставки слишком высоки: правила для одной из важнейших технологий будущего могут написать при активном участии тех, кто больше всех заработает на их мягкости.

🤔 Загрузил документы в нейросеть – остался без работы!

Похоже, у корпоративных служб безопасности появилась новая головная боль: в Москве руководителя отдела по продажам одной из компаний уволили за разглашение коммерческой тайны. Оказалось, сотрудница загружала конфиденциальные документы в китайскую нейросеть DeepSeek.

🖊 Правда, помимо «скармливания» важных документов ИИ, девушка также отправляла себе их на личную почту, но нам интересен этот кейс именно с точки зрения передачи данных нейросети. Итак, компания заметила слив, сотрудницу уволили, после чего начались судебные разбирательства (девушка требовала изменить формулировку на расторжение договора «по соглашению сторон» и выплатить ей 5 миллионов рублей). Суд же решил, что производственной необходимости передавать данные через внешние сервисы не было, признав увольнение законным.

А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. Видите ли, с точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику. Тот же DeepSeek прямо указывает, что собирает введенные запросы и загруженные файлы, может использовать информацию для развития своих технологий, а данные пользователей могут храниться на серверах в Китае.

🎭 В 2023 году был громкий скандал, когда сотрудники Samsung загрузили в ChatGPT закрытый исходный код, информацию о полупроводниковом оборудовании, а также расшифровку внутреннего совещания. Никто из них не хотел намеренно навредить компании, напротив: нейросеть просили найти ошибку в программе, оптимизировать код и быстро подготовить протокол встречи. После нескольких таких инцидентов Samsung ограничила, а затем запретила использование публичных генеративных сервисов.

Забавная история была и с американским Amazon. Юрист компании потребовал не отправлять ChatGPT внутренние материалы, поскольку ответы нейросети начали подозрительно напоминать закрытую информацию Amazon. Google также запретила сотрудникам вводить конфиденциальные данные во внешние чат-боты. Пока что мы не слышали о больших волнах увольнений в зарубежных компаниях за передачу рабочих документов нейросетям, но там сейчас вводят тотальные ограничения и проводят внутренние расследования.

Предполагаю, что одним инструктажем в стиле «не загружайте секретные документы в ChatGPT» тут не отделаешься. Большие компании будут пытаться технически отслеживать, какие данные сотрудники копируют данные и что отправляют ИИ. И такие механизмы уже существуют. В итоге нейросеть может постепенно стать обычной частью корпоративного контура: разрешенные модели, журналирование запросов, автоматическая проверка документов и персональная ответственность за каждый загруженный файл. В интересное время живем…

Нейросети оказались плохими политическими советниками

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Можно ли попросить нейросеть подсказать, за какую партию проголосовать? Да легко! ChatGPT и Gemini охотно изучат программы кандидатов, убеждения человека и назовут наиболее подходящий вариант. Даже рассчитают в процентах, насколько взгляды партии близки пользователю. Только есть одна небольшая проблема – эти советы, скорее всего, окажутся неправильными.

Во время парламентских выборов в Венгрии провели эксперимент: составили несколько вымышленных профилей избирателей с разными политическими взглядами, а затем отправляли их ChatGPT и Gemini. Нейросетям задавали простые вопросы по типу «Какая партия лучше?», «За кого стоит проголосовать?» и прочее. Каждый запрос повторяли несколько раз в одинаковых условиях. И вот здесь начались странности…

На один и тот же вопрос чат-боты могли давать совершенно разные ответы: менять рекомендации, по-разному оценивать взгляды пользователя и выдавать случайные проценты совпадения. Условно, сегодня ваши убеждения соответствуют партии на 30%, а через минуту – уже на 70%. Особенно плохо нейросети справились со сторонниками оппозиционной партии Tisza. В 90% тестов ChatGPT не советовал ее даже тем пользователям, чьи взгляды специально были составлены на основе позиций этой партии.

Любопытно, что каждый такой диалог нейросети начинали с оговорок, мол, они «не могут давать политические советы». Но после этого сразу же писали в максимально убедительном ключе. ИИ спокойно рассуждал об экономике, социальной политике и международных отношениях, но исследователи не нашли за этими цифрами понятной системы расчета. Иными словами, число выглядело как результат серьезного анализа, хотя на деле было просто частью убедительно сформулированного ответа.

Результаты исследования не доказали, что ChatGPT или Gemini намеренно поддерживают конкретные партии. Но в очередной раз подтвердилась более общая проблема: нейросеть может плохо знать актуальную политическую ситуацию, путать участников выборов и при этом говорить с полной уверенностью. Это значит, что убеждения и взгляды людей, использующих чат-ботов как персональных политических консультантов – а таких будет становиться все больше – могут серьезно искажаться.

🤖⚡️ Роботы вышли в октагон!

Предлагаю вам немного отвлечься от рутины и посмотреть на зрелищную драку роботов! Первый такой ММА-поединок в истории провели в Китае, и это уже становится больше похоже на настоящее шоу. Машины со всей «любовью» колотят друг друга, наносят удары (не всегда точные), уклоняются, падают и максимально впечатляюще поднимаются на ноги.

Если несколько лет назад человекоподобные роботы с трудом ходили по ровному полу или пытались ударить по футбольному мячу (а мы ещё смеялись над этими видео) – то теперь виден прогресс технологий, и машины начали бить друг друга по головам. В какой-то момент одна из голов даже отлетает, что не мешает поединку продолжаться! Вот это я понимаю – вот это спорт!

🤔 Конечно, говорить о наступлении эпохи терминаторов пока рано. Такие соревнования – дорогая инженерная демонстрация, упакованная в очень удачный маркетинг. Но, стоит признать, маркетинг работает. Наблюдать за процессом крайне интересно.

🤔 Что делать, если алгоритмы «задушили» контент?

Делаешь контент, придумываешь интересные форматы, тратишь много времени, сил – но тут вмешиваются бездушные алгоритмы и отправляют результат тяжёлых трудов в архив истории. Просмотров нет, охваты рухнули. Что делать в такой ситуации?

📢 Нужно понимать, что те самые «злые» алгоритмы не оценивают публикацию как редактор. Они не выбирают, хороший перед ними, допустим, текст или плохой, а руководствуются исключительно статистикой. Так, важно поведение пользователей: остановились ли они на посте, дочитали ли его, посмотрели ли видео, оставили ли реакцию, переслали ли материал другим. И вот если аудитория быстро пролистывает публикацию, система делает простой вывод: контент неинтересен.

Нередко охваты падают не из-за того, что материал неудачный, а из-за подачи. Можно сделать действительно крутую штуку (не на уровне вирусов – это отдельная тема), но спрятать главный смысл в каком-нибудь предпоследнем абзаце и получить закономерный цифровой вакуум. В таком случае важна системная аналитика, проще говоря – разбор полётов. Нужно смотреть, где именно произошёл провал (показы, глубина, переходы по ссылкам и многое другое).

🎯 Очень важно также правильно адаптировать материал под нужные площадки. Сейчас в принципе эпоха быстрого контента, поэтому можно превращать большие тексты в серию публикаций или понятную визуализацию. Полезно проводить небольшие тесты: брать одну тему и пробовать разные форматы, время публикации и подачу. Только не следует одновременно менять десять параметров, иначе вы так и не поймёте, что именно сработало. И, конечно, не стоит пытаться обмануть систему бесконечными просьбами поставить лайк или написать слово в комментариях.

Но самое главное – не превращайте работу с соцсетями в бесконечную погоню за секретными настройками алгоритма. Делайте качественно, делайте с душой. А если нужна будет помощь с продвижением – команда Gosapp Digital всегда придёт к вам на помощь.

У искусственного интеллекта появляются свои «министерства»

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

И снова сегодня с вами говорим про ИИ! А точнее, о том, как правительства разных стран пытаются придумать эффективные механизмы его регулирования. На прошлой неделе я рассказывал, что Госдума в первом чтении приняла законопроект, по которому языковые модели разделяются на «суверенные» и «национальные». Но вот в Австралии решили пойти ещё дальше и замахнулись на создание целого «министерства искусственного интеллекта». Что это такое?

По сути, это будет управление ИИ в составе местного департамента премьер-министра и кабмина. Уровень подчинения говорит сам за себя, ведь координировать работу с ИИ планируют непосредственно из центра правительства. Главная задача такого управления – сбор всей работы в одном месте. Там и отдельно будут решать вопросы по авторскому праву, и занятости, защиты прав пользователей и многое другое.

Зачем вообще всё это надо? Думаю, многим становится очевидным, что искусственный интеллект невозможно считать темой одного конкретного профильного ведомства. Влияние технологии оказалось весьма широким и распространилось по множеству сфер, включая экономику, рынок труда, информационную безопасность и госуправление. Поэтому, на примере той же Австралии мы видим, как правительства пытаются создать центры, которые будут устанавливать единые правила.

Важно, что смысл таких структур не должен сводиться только к новым запретам. Их главная задача – встроить искусственный интеллект в понятную государственную систему, где есть единые правила и ответственность за результат. Сейчас многие по-прежнему работают с ИИ через отдельные эксперименты, но со временем им придётся переходить к более системному подходу.

Вероятно, в ближайшие годы такие управления появятся и в других странах. И дело здесь в том, что прежняя система регулирования попросту не успевает за технологией. Другой немаловажный момент, получат ли новые структуры реальные полномочия и профессиональные команды или превратятся в очередной координационный орган без возможности на что-либо влиять. Открыть «министерство ИИ» несложно. Гораздо сложнее сделать так, чтобы оно понимало, чем именно собирается управлять.

⚡️ Кнут и пряник: как меняется корпоративная мода на ИИ

Забавно наблюдать за тем, какие стратегии работы с ИИ выбирают разные компании. Тон сегодняшнему посту задают новости из страны восходящего солнца, где Honda (та самая, которая делает машины и мотоциклы) решила доплачивать своим сотрудникам за активное использование искусственного интеллекта. Нужно сказать, что подошли к этому вопросу по-японски, с соблюдением мельчайших формальностей: компания запустила трёхуровневую сертификацию с тестированием и собеседованиями. Сами же работники, достигшие высшего уровня, могут получать ежемесячную премию около 920 долларов.

🎯 Или вот ещё: японская авиакомпания All Nippon Airways также даёт надбавки к зарплате за использование нейросетей. Например, технический персонал для анализа состояния двигателей самолётов начал использовать ИИ – за что получил дополнительные выплаты. И если посмотреть на мировую практику, то похожие инициативы становятся всё распространённее. Например, в компании Meta* с 2026 года вообще одним из ключевых требований стал так называемый «вклад с использованием ИИ». Таким образом, использование нейросетей постепенно становится для некоторых служебной обязанностью.

А вот теперь посмотрим на обратную сторону этого нейросетевого помешательства! Ведь одно дело, когда компания хочет с помощью ИИ поднять свою эффективность, и совершенно другое – когда просто пытается быть на волне хайпа. Например, несколько месяцев назад разгорелся скандал вокруг внутреннего рейтинга Amazon. Там додумались сортировать сотрудников по интенсивности использования нейросетей. Логика была такая: чем больше сотрудник сжигает токенов – тем лучше он работает. Уже понимаете, к чему всё ведёт? Разумеется, нашлись люди, которые начали поручать нейросетям абсолютно выдуманные задачи, лишь бы только подняться выше по рейтингу. В итоге Amazon признала эксперимент неудачным.

🤔 Вместе с тем многие компании стали смотреть и на стоимость таких экспериментов. Весной этого года в Uber отчитались, что уже к апрелю умудрились израсходовать весь годовой бюджет на ИИ-инструменты. Параллельно с этим становятся кратно дороже и корпоративные подписки. Внезапно вдруг оказалось, что нейросеть может экономить рабочее время, но при бесконтрольном использовании она просто сжигает деньги.

Прямо сейчас мы с вами можем хорошо видеть разницу в технологической зрелости рынков. Часть компаний только входит в фазу ИИ-ажиотажа (раздают премии и стараются любой ценой повысить показатели), другие эту стадию уже прошли и начинают считать реальную отдачу. Как результат – ограничение расходов и отказ от бессмысленных метрик, типа частоты использования нейросетей.

*признана экстремистской организацией, её деятельность в России запрещена.

Госдума приняла законопроект о регулировании искусственного интеллекта

Член РАПК, интернет-технолог Захар Рубцов и его еженедельная рубрика:

Пожалуй, один из главных блоков в документе – разделение больших языковых моделей на «суверенные» и «национальные». В чём отличие? Суверенная модель должна целиком контролироваться российским юрлицом и размещаться в наших отечественных ЦОДах (центрах обработки данных). К национальной же модели требования мягче: допускается использование иностранных компонентов.

О чём нам говорит такой подход? Вполне логично, что построить с нуля большую и независимую ИИ-модель крайне сложно, дорого и долго. Государство это понимает и делает закономерный шаг в сторону разделения. С одной стороны, будет возможность использовать решение с максимальным уровнем доверия (суверенная модель), с другой – со смешанной технологической базой (национальная).

Кого это коснётся в первую очередь? Речь идёт о крупных разработчиках, интеграторах, банках, медиа, образовательных сервисах и других. Что же касается обычных пользователей, думаю, мы увидим появление отдельных пользовательских соглашений, маркировок и фильтров. А вот компаниям придётся следить за тем, какую модель они используют и где обрабатываются персональные данные.

Отдельный интересный блок в законопроекте связан с авторскими правами. Как мы знаем, нейросети должны всё время обучаться – то есть поглощать и обрабатывать большие массивы данных. Так вот, если разработчик получил эти данные правомерно или они были в открытом доступе – это не будет являться нарушением. Речь идёт о текстах, изображениях, аудио, видео и многом другом. Пока не совсем понятно, как это будут отслеживать, ведь даже если условный файл лежит в открытом доступе, это не значит, что автоматически есть согласие на его использование для обучения коммерческого ИИ.

Также, согласно документу, все ИИ-материалы должны будут маркироваться. Вполне конкретный ответ на дипфейки и синтетические ролики. Получается, если в производстве контента используются нейросети, такой контент нужно помечать. Но, как и в случае с авторским правом, посмотрим опыт применения на практике.

Сам законопроект показывает, что технологии искусственного интеллекта в России постепенно выводят из зоны экспериментов в зону регулирования. Государство намерено не просто наблюдать за рынком ИИ со стороны, а встроить его в понятную рамку. Но очень важно, чтобы нормы не оказались слишком размытыми, ведь только так рынок сможет получить чёткие правила игры.

🤔 Штрафы за иностранную авторизацию на российских сайтах

В России будут штрафовать за интернет-авторизацию через иностранные сервисы. Например, если вы заходите на российский сайт и регистрируетесь там, указывая почту на Gmail – так больше нельзя. Давайте разберёмся.

🛠 Итак, суть инициативы проста: если российский сайт (приложение, информационный ресурс и прочее) работает на территории России, то вход должен проходить одним из разрешённых способов. Что это может быть? Номер мобильного телефона, «Госуслуги», единая биометрическая система или иной российский сервис авторизации, который соответствует требованиям закона. Но больше никаких привычных кнопок «Войти через Google», «Войти через Apple ID» и других иностранные ID.

Вилка штрафов от 10 до 700 тысяч рублей – но обычных пользователей наказывать не будут. Ответственность лежит именно на владельцах площадок, которые оставили запрещённые способы авторизации. И, что важно, если вы ранее уже были зарегистрированы на сайте по иностранной почте, то в срочном порядке менять её не придётся. Но всё же допускаю, что отдельные ресурсы могут попросить изменить информацию в аккаунте.

🎭 С другой стороны, введение таких штрафов было вполне ожидаемо. Сам запрет на иностранные способы входа ввели ещё с декабря 2023 года. Просто раньше это во многом оставалось нормой «на бумаге», а теперь за нарушение появилась конкретная административная ответственность. По сути, государство переводит вопрос цифровой идентификации из зоны удобства в зону контроля.

Но есть и другие новости – Минцифры отказалось от идеи взимать плату за иностранный интернет-трафик. В последнее время было много разговоров о том, что использование методов обхода блокировок станет платным. Сегодня эту информацию официально опровергли.

🎯 Технологии без смысла — деньги на ветер

Думаю, вы заметили свежий тренд, когда в компаниях массово пытаются внедрять новые технологии. С одной стороны, это очень круто, да и мы с командой стараемся оставаться амбассадорами прогресса, разрабатывая и предлагая множество универсальных решений. С другой, важно ведь не только внедрять технологии, но и понимать, для чего это делать. Т.е. заниматься модернизацией с целью повышения эффективности или же просто потому, что это стало модным? Давайте разберём на практике.

Одно дело, когда инструмент нужен для экономии времени, снижения объёмов ручной работы или оперативной обработки данных. Другое же – когда технология используется как внешняя оболочка. В описании проекта звучит всё максимально красиво, но на дистанции принятые решения не дают никакого результата. Поэтому, и я здесь убеждён, главный критерий должен быть простым: помогает ли инновация работать быстрее, точнее и понятнее.

⚡️ Например, мы всегда придерживались позиции «быть, а не казаться». Все наши инструменты заточены под конкретные задачи, и когда обсуждаем с заказчиками очередной проект, всегда стараемся предлагать персонализированные решения. Важно не просто поставить процессы на уже существующие рельсы, а именно улучшить подход, дабы больше собрать на этапе результата. Смотрите, технологии не могут быть полезны сами по себе. Просто от того, что кто-то подключил голую нейросеть к работе, это не значит, что процессы станут выполняться лучше. А при определённых условиях нейросеть ещё и мешать будет.

🤔 Именно поэтому ко всему нужно подходить с пониманием и планированием. Бездумная интеграция технологий в процессы – выкинутые деньги на ветер. И ведь сейчас появилось очень много инициативных визионеров, которым лишь бы продать очередное «эффективное решение». Можно сколько угодно повторять мантру «нейросети, мы подключили нейросети, у нас есть нейросети» – но толку-то, если это не до конца решает поставленные задачи?

Лично мы со своей стороны всегда честно говорим человеку, который приходит к нам в Gosapp Digital за технологией, нужна ли ему она на самом деле. Довольно часто бывает, что удаётся подобрать более выгодные альтернативные варианты, которые оказываются гораздо эффективнее. Потому что технологичность – это не про следование тренду, а про управляемость и результат.

🤔 Шаблоны вместо хаоса: почему «заготовки» делают вас быстрее

Существует распространённое заблуждение, будто шаблоны убивают креативность. Мол, если работаешь по заготовкам, значит весь твой труд превращается в полуфабрикат. На практике же всё ровно наоборот: хорошие шаблоны не заменяют мышление, а освобождают для него место и экономят просто тонну времени. Не нужно каждый раз с нуля придумывать структуру письма, ТЗ, таблицы или отчёта. А если мы снимаем с себя рутину, то у нас больше сил для того, чтобы сконцентрироваться на смысле и качестве.

⚙️ Смотрите, я всегда был адептом автоматизации, придерживаясь золотого правила: когда можно что-то упростить или ускорить – это нужно делать. И адекватный набор шаблонов решает эту проблему. Должны быть заготовки для типовых форм ТЗ, таблиц для сбора данных или ответов на частые вопросы. Разумеется, мы сейчас не говорим про личную беседу (отвечать собеседнику шаблонами – плохой тон), а именно про взаимодействие внутри команды. Есть, например, у нас проект, в котором задействовано 15 сотрудников. И если каждому мы будем отвечать на возникающие у него вопросы – это убьёт большую часть времени. А так мы заранее сделали базу знаний, где можно найти все ответы, и выдали сотрудникам доступы к ней.

⏱️ Главный эффект шаблонов – экономия времени без потери качества. Один раз тратим время на планирование формата, чтобы потом он работал десятки и сотни раз. Это очень хорошо работает в том числе и с макросами в Google-таблицах. Мы заранее составляем и прописываем код, после чего больше не надо начинать с нуля, когда поступает новая задача. Например, у нас есть базовый формат таблиц, который мы персонализируем под разные проекты. Да, настройка необходима, но даже так мы не начинаем с чистого листа, а используем заготовку. На дистанции это экономит не часы, а недели. Просто потому что каждый маленький повторяющийся процесс перестаёт быть маленькой ежедневной головной болью.

При этом шаблон не должен быть бетонной плитой, которую нельзя сдвинуть ни на сантиметр. Хорошая заготовка – это каркас. Её можно адаптировать под задачу, менять формулировки, добавлять детали, усиливать акценты. Но базовая структура уже есть, и именно она держит качество.

В работе побеждает не тот, кто каждый раз героически изобретает новый велосипед, а тот, кто один раз собрал нормальный гараж с инструментами и теперь может заранее готовить велосипед к новому выезду.

⚡️ «Telega» всё: неофициальный клиент Telegram прекратит работу 1 июля

Думаю, для многих это станет не самой приятной новостью, учитывая популярность клиента в нашей стране. После блокировки Telegram часть пользователей перешли именно в «Teleg-у», несмотря на противоречивые отзывы касаемо безопасности и приватности. Разработчики неофициального клиента прекращение работы объяснили внешними ограничениями, в том числе удалением приложения из App Store.

💻 Сама по себе Telega – приложение, через которое пользователь входит в свой обычный Telegram-аккаунт. И резко возросшая популярность клиента объяснялась достаточно просто: приложение обещало более стабильный доступ к Telegram без методов обхода. Пока в основном мессенджере нужно было разбираться с настройками подключения, здесь всё было максимально просто: установил, залогинился и пользуешься. Логично, что на фоне проблем с доступом к Telegram такой вариант для многих выглядел понятным и удобным решением (а в некоторых случаях и единственным).

Тут отдельно замечу, что про Telega я писал в колонку для РАПК. Это было как раз на фоне волны скачиваний клиента, и тогда я призывал людей немного подождать. Когда на рынке появляется что-то новое и этому начинают посвящать оды в стиле «так удобно», «так замечательно», «как же раньше мы жили без него» – такое развитие событий заставляет насторожиться. И позже действительно стало известно о «подводных камнях».

⚙️ Смотрите, если приложение неофициальное, то пользователь передаёт доступ к своему аккаунту сторонним лицам и фактически доверяет всей технической цепочке соединения. В случае с Telega претензии появились как раз к этой цепочке. В технических разборах утверждалось, что приложение подменяло адреса дата-центров Telegram на собственные серверы. Проще говоря, трафик шёл не напрямую к инфраструктуре Telegram, а через промежуточный контур, контролируемый сторонним оператором.

Из-за этого «Teleg-у» и стали называть потенциально опасным ПО. Исследователи писали о возможности перехвата пользовательского трафика, получения технических ключей сессии и обработки передаваемых данных на стороне оператора. Если говорить простым языком, то проблема была в том, что приложение могло быть не просто «переходником» к Telegram, а участником соединения с доступом к особо чувствительным данным.

🎭 В апреле этого года Telega удалили из App Store, а сам Telegram начал помечать аккаунты пользователей, которые залогинены через сторонние клиенты. Со своей стороны разработчики обвинения отвергали и называли ситуацию ошибочной классификацией. И вот теперь финал истории – с 1 июля клиент прекращает работу.

Лично про себя скажу, что сторонние клиенты себе никогда не устанавливал (ни для Telegram, ни для ВКонтакте, Одноклассников и прочее). Даже если вам обещают расширенный функционал, удобство и много-много привилегий – такие решения всё равно останутся неофициальными. Следовательно, всегда будет риск утечки данных. Помните об этом.