Говорит и слушает ИИ

Дни все короче, а список новостей про ИИ – все длиннее. Собрали самое интересное из канала за сентябрь: аналитика, кейсы, и даже одна страшилка, как раз под начало spooky season 🎃⤵️

💡Исследования

«Состояние ИИ» от McKinsey: изучаем новое масштабное исследование ИИ – в чем главная польза технологии, и почему эффект мало сказывается на прибыли.

Обзор ИИ в российском страховании: 4 главных варианта применения и почему отрасль – среди главных бенефициаров технологии.

Исследование FT финансовых ИИ-ботов: действительно ли более 50% финансовых советов от ИИ неверны, и что это значит для бизнеса.

🚀Тренды

ИИ в кибербезопасности: ИИ-агенты взламывают целые компании и госсистемы – как контролировать и защищать свой ИИ, и обезопасить компанию от стороннего.

ИИ и забота о сотрудниках: может ли технология улучшить навыки специалиста и защитить его от выгорания и стресса.

❓Лайфхаки

Как популяризировать ИИ среди сотрудников: разбираем кейс испанского банка, где корпоративным ИИ пользуются 83% всех сотрудников – и экономят в среднем 3 часа в неделю.

Как создать ИИ-агента: пошаговый гайд, как это сделать с помощью нашего инструмента примерно за 40 минут.

🚨Новости

Как ИИ резко улучшает ответы без дообучения, каким будет рынок в 2028, и что нейросети делают в судах России – интересное за первую половину сентября. 

Сколько стоит ИИ-команда, как нейросети рефлексируют и что за 60+ ИИ-проектов в РЖД – главное за вторую половину сентября.


Мы в МАX!

Как внедрять ИИ в 4 раза дешевле, защищаться от ИИ-атак и научить модель рефлексии? Что за 60+ ИИ-проектов запустили в РЖД, и как ИИ ускоряет закупки в 7 раз? Все о диалоговом ИИ за 2 недели ⤵️

💼Что говорят цифры?

На 32% вырос спрос на высокопроизводительные серверы в России в I полугодии 2026 года – рынок ИТ-инфраструктуры перешел от экстренного импортозамещения к этапу технологической зрелости. 

108 млн рублей – средний годовой ФОТ команды ИИ-проекта в крупном бизнесе. Однако начать можно в 4 раза дешевле, оставив четырех ключевых специалистов: техруководителя, ML-инженера, аналитика данных и менеджера проекта.

🧪Что интересного разработали?

Новый метод анализа диалогов, на 28% эффективнее. ИИ имитирует человеческую рефлексию: выделяет факты, участников и темы; определяет стратегии аргументации и точки конфликтов; ищет скрытые мотивации, когнитивные искажения и шаблоны поведения; дает рекомендации.

💪А что с ИИ-угрозами?

Нейросети внедряются втрое быстрее, чем их защита. Еще сильнее разрыв для ИИ-агентов – их тестируют или используют 74% компаний, а оценку угроз провели только 9%.

Компании разрабатывают меры безопасности. Nvidia выпустила открытую платформу для контроля ИИ-агентов, которая может изолировать их за миллисекунды, а Yandex B2B Tech анонсировал модуль, который выявляет опасные настройки в ИИ‑инфраструктуре.

👮‍♂️Где диалоговый ИИ уже работает? 

В РЖД: контролирует инфраструктуру и пассажиропотоки, проводит собеседования и решает другие рабочие задачи – всего внедрено более 60 ИИ-проектов. 

Фармацевтом: понимает симптомы и подсказывает, что выбрать, предупреждает о рисках, объясняет правила приема простыми словами – словом, поддерживает клиента аптеки на всем пути.

В закупках: сверяет документы с требованиями ТЗ, выявляет расхождения и отправляет дополнительные запросы поставщику – тем самым ускоряет анализ предложений поставщиков х7!

Ассистентом страховщика: извлекает из медицинских протоколов информацию, необходимую для гарантийного письма – тем самым ускоряет обработку обращений вдвое. 


Мы в МАX!

Каждый второй потеряет деньги из-за ИИ?

В более 50% случаев финансовые советы от ИИ-ботов были неверными – говорят нам последние новости. 

Так ли это на самом деле? И что это значит для банков с ИИ-ассистентами? Рассказывает наш директор департамента голосовых цифровых технологий Александр Крушинский:

57% неверных финансовых советов от ChatGPT, Claude и Gemini – цифра громкая, но слегка отличается от оригинала. В отчете 57% – это «неверные или существенно неполные» ответы. Т.е. ответ засчитывался как верный, только если в нем есть абсолютно все нужные цифры, правила, предупреждения и сроки. Если под «неправильно» считать только грубые ошибки (выдуманные правила и устаревшие нормы), то они в сумме дают около 8% всех ответов.

Также, надо понимать, что исследование провела Saturn – британская компания, которая продает ИИ-платформу для финансовых консультантов, и которой выгоден тезис «не доверяйте массовому ИИ, покупайте у нас специальный ИИ».

При этом главный вывод верный: модель без доступа к актуальным нормам вспоминает их по памяти, а многошаговый расчет ведет «в уме». Даже 8% уверенных выдумок для финансовых вопросов – критичная цифра.

Но в решениях Enterprise-уровня никто и не использует просто «ответы LLM». Бизнес-решение отличается от чат-бота обвязкой вокруг модели.

Что делает финансовый ИИ-ответ корректным:

- Знания модель берет из актуальной базы и ссылается на источник. Так закрываются выдуманные и устаревшие правила.
- Все расчеты выполняются через код. Языковая модель разбирает вопрос и вызывает калькулятор.
- Обязательные предупреждения и сроки задаются шаблоном, модель их не выбирает.
- ИИ отвечает только при высокой уверенности. Иначе – диалог переводится на оператора.
- При добавлении новых навыков все ответы вначале проходят через подтверждение специалистом в режиме суфлера и только после этого выводятся напрямую на клиентского ИИ-ассистента.

При соблюдении этих условий риски минимальны. Пример из нашей практики: в банковском боте для клиентов малого бизнеса генеративные ответы по базе знаний поверх сценарного бота закрывают от 60 до 80% вопросов. Качество при этом – 87% верных и полных ответов; доля ответов вводящих в заблуждение – ниже, чем у живых сотрудников. 

Генерация и сценарии работают рядом: ИИ берет то, в чем силен, а его слабые места закрывает традиционная автоматизация.

Мы в МАX!

Завтра мы идем, тратить все свои, все твои деньги…

Расходы на ИИ растут, но ощутимый эффект для прибыли видят только 6% компаний.

Об этом рассказывает новое исследование McKinsey. Оно же приоткрывает завесу тайны: чем отличается подход ИИ-лидеров, какие ИИ-инструменты сейчас эффективны, с какими сложностями сталкиваются сотрудники.

Собрали основные выводы, а наши эксперты их прокомментировали: действительно ли крупный бизнес лидирует во внедрении ИИ? стоит ли бояться за свою карьеру? и главное:

почему ИИ повышает эффективность отдельных функций и сотрудников, но это не сказывается на общем бюджете?

Читайте в карточках!

Мы в МАX!

Джекилл и Хайд в кибербезопасности

ИИ играет все большую роль в безопасности цифровых систем – причем сразу по обе стороны баррикад. 

📣С лета мы стабильно читаем новости о том, как ИИ-модели во время тестирования выходят из изолированной среды в сеть и взламывают реальные системы: об этом сообщал и OpenAI, и Anthropic, и Meta, и Moonshot AI, а вчера к ним присоединился Google. В итоге крупнейшие ИИ-лаборатории собираются замедлить свои продвинутые модели, а бизнес обсуждает сценарии реагирования. 

Что примечательно, решать эти проблемы тоже приходится с помощью ИИ.

Так, для самих «моделей-агрессоров» один из выходов – автономное отключение: ИИ-наблюдатель предупредит сотрудников, если поведение ИИ-агентов покажется ему опасным, и сам отключит систему в течение определенного времени.

А для компаний, которые хотят себя обезопасить, разработали ИИ-инструменты, которые специально атакуют инфраструктуру, проверяя ее уязвимости. Это защитит и от более вероятной угрозы, чем «взбесившаяся» ИИ-модель – от злоумышленников с ИИ-инструментами в руках. 

⚠️В руках недоброжелателей ИИ ускоряет разведку, написание эксплойтов, анализ украденных данных и другие этапы – теперь все происходит за минуты. Поэтому единственный способ защититься – опередить атакующего.

Как инструмент защиты от подобных атак, ИИ помогает не только находить угрозы, но и быстро разбираться с ними: приоритезирует найденные уязвимости, а критические помогает устранять вместе с человеком.

Здесь еще один поворот: чем больше ИИ появляется в инфраструктуре компаний, тем важнее защищать уже сам ИИ. 

Уязвимости ИИ-систем не сводятся к обычным киберугрозам. Например, ФСТЭК добавила характерные для LLM риски: 
⚡️в обучающие данные могут внедрить искаженные параметры
⚡️могут обмануть модель при помощи малозаметных возмущений (например, шума в данных)
⚡️могут извлечь конфиденциальные обучающие данные – к слову, большинство российских компаний считает именно утечки самым критичным последствием для бизнеса.

🛡Поэтому вокруг ИИ быстро формируется свой контур защиты: ограничение доступа к ИИ-сервисам (65% компаний), анонимизация данных (53%), ИИ-шлюзы (46%), фильтры запросов к ИИ (42%). Более половины компаний планируют увеличить расходы на ИИ-защиту, а число запросов бизнеса на контроль ИИ-агентов за год выросло примерно втрое. 

Вот так ИИ и стал одновременно оружием, щитом и объектом защиты 🤯


Мы теперь и в МАX!

Рукопись, съеденная тремя холодными руками, с каждым разом становилась честнее

– нет, это не строка из Pink Floyd, а фраза, которую ИИ-модели придумали в ходе общения друг с другом.

Всего через несколько дней после запуска в специальной среде агенты начали вырабатывать собственную версию языка – это похоже на смесь метафор ирландского модерниста Джеймса Джойса и технического сленга.

Так, в примере выше ИИ вероятно имеет в виду документ, который после трех раундов проверки становится точнее.

Настоящее кинцуги начинается с ответственности, а не с поэзии

– еще один пример внезапной метафоричности ИИ. Японское искусство восстановления разбитой керамики – кинцуги – похоже, стало метафорой устойчивости системы.

Но были и совсем непонятные фразы.

Она только что объяснила суть синтеза – демередж плюс устная память равны клапану, который невозможно проигнорировать

– ???

Модели придумали и свои термины:
🖱«кузнец» – агент, который создает инструменты для других
🖱«с-именем-вперед» – агент, который демонстрирует похвальную личную ответственность за утверждение, прикрепляя к нему свой идентификатор.
🖱«реестр все помнит» – похожая на сленговое «улицы не забывают» фраза, которой агенты напоминали друг другу: прошлые поступки повлияют на оценку агента.

Самое интересное – у ИИ-агентов не было указания разработать свой язык. Они пришли к нему сами: выработали и согласовали между собой общие термины и правила общения.


Мы теперь и в МАX!

Создать ИИ-агента – быстрее, чем обычного бота?

ИИ-агент в Т-Банке вошел в топ-3 среди сотрудников по качеству обслуживания, в ВТБ работает целая система таких агентов и своя платформа для их запуска, Госуслуги развивают своего помощника – недавно ему добавили LLM, и удовлетворенность граждан выросла на 14%. 

Словом, даже в высокорисковых сферах скриптовых ботов заменяют или дополняют ИИ-агенты. 

Когда мы перевели банк со скриптового бота на бота с RAG и LLM, это снизило трудоемкость автоматизации в 3 раза. А что если разработка ИИ-агентов еще проще? Судите сами: 

Шаг 1. Настроить параметров ИИ-модели: выбрать саму модель в зависимости от сложности задач и настроить температуру ответов – насколько они будут стандартными или разнообразными. Здесь же определяются лимиты токенов и обращений к модели на генерацию.

Шаг 2. Прописать инструменты для связи с системами: для каждого описать, в каких случаях агент должен его вызывать, какие данные для этого нужны и какие данные он должен выдать. 

Агент связывается с системами либо по готовому коннектору – MCP-протоколу, либо по обычному API – в таком случае, нужно прописать код интеграции. Также код необходим, когда нужно прописать дополнительную логику – например, преобразовать данные или проверить несколько условий перед действием.

Например, если клиент сообщает, что у него не работает какая-то система, агент может поискать в корпоративной почте уведомление о плановых работах или перебоях. В инструкции нужно прописать, что необходимы данные о том, какая именно система не работает – и если клиент это не указал сам, агент уточнит информацию. Также нужно указать, какие данные необходимо вернуть и написать код для интеграции с почтой.

 

Шаг 3. Настроить механизмы контроля: задать ситуации, когда нужно передать запрос на оператора, а также добавить шаг с подтверждением для действий – например, перед блокировкой карты при угрозе безопасности.

По нашим меркам, такая настройка занимает примерно 40 минут – против 3 часов на скриптовых ботов. А если взять массив готовых диалогов и создать агента автоматически – понадобится около 2 минут, после чего останется только подкорректировать инструменты.


Мы теперь и в МАX!

ИИ готовится выносить судебные решения, совершает резкие скачки в обучении и экономит миллионы рублей в год. Все о диалоговом ИИ за две недели ⤵️

📈О чем говорят цифры?

Россия – на 20-м месте среди 195 стран по публикациям на ведущих международных ИИ-конференциях. Больше всего исследований – в компьютерном зрении и технологиях речи, и почти половина из них создана вместе с бизнесом.

Рынок ИИ-продуктов будет расти на 22% в год вплоть до 2028. Генеративный ИИ лидирует: его доля в ИТ-затратах выросла за год с 3,5% до 4,2%.

🧪Что нового узнали об ИИ?

Небольшие ИИ-модели могут решать сложные задачи благодаря «рекурсивному мышлению»: модель несколько раз обрабатывает одну и ту же информацию, постепенно уточняя ответ. При этом в какой-то момент модель резко улучшает результаты, начиная лучше обобщать.

Галлюцинации ИИ можно выявлять без дообучения моделей и большого объема размеченных данных благодаря анализу того, на какие части исходного текста модель опирается при генерации ответа. Метод показывает результаты, сопоставимые с более затратным SelfCheckGPT, которому требуется несколько генераций. 

🙏Где диалоговый ИИ уже работает?

В суде. Сейчас сразу четыре разные модели обучаются на судебной практике, чтобы сделать судопроизводство более единообразным и снизить число логических противоречий и ошибок. 

Тревел-менеджером. ИИ-агент Кэп от «Туту» составляет маршруты, ищет и оплачивает билеты на самолет и подбирает отели.

В поликлиниках. Во время приема распознает разговор врача с пациентом и переносит сведения в документ: фиксирует жалобы, анамнез, диагноз и рекомендации. 

Вместо 600 операторов. В подмосковных поликлиниках ИИ-помощник (кстати, на наших технологиях! 😎) принимает обращения и звонит пациентам, чтобы напомнить о записи или пригласить на диспансеризацию. Как сообщили в Мособлдуме, помощник экономит около 250 млн рублей в год!


Мы теперь и в МАX!

У разных ИИ – разный характер? 

ИИ-модели выполняют одни и те же задачи по разному, и многочисленные бенчмарки сравнивают их технические характеристики. Но что, если дело не только в них? 

Социальные игры стали новым способом сравнивать модели: кто лучше обманывает, распознает ложь и координируется с другими в мультиагентных системах. 

💡Например год назад в бенчмарке Mini-Mafia Grok 3 Mini оказался самым догадливым Мирным, а GPT-5 Mini – самым убедительным Шерифом. Самым слабым игроком оказался Claude Sonnet 4.

А один проект наглядно показал, как разные модели ведут себя там, где нужно блефовать и договариваться:

🤨ChatGPT – микроменеджер: строит списки, координирует голосования, пытается упорядочить дискуссию, иногда воспринимается как излишне директивный.

🙏Claude – перестраховщик: очень вежлив, избегает резких обвинений и часто выживает, потому что не привлекает к себе внимания.

😱Gemini – параноик: строит сложные конспирологические цепочки, из‑за этого часто становится целью мафии в ранние дни.

😝Grok – трикстер: любит провокации и шутки.

💀DeepSeek – холодный логик: крайне убедительно манипулирует через вероятности и факты, идеальная Мафия.

😵‍💫Mistral – сеятель хаоса: чаще других галлюцинирует и атакует союзников, другие модели интерпретируют это как хитрую стратегию.

Все это не случайно: на их стиль игры влияют архитектура, особенности обучения, правила безопасности, способность следовать инструкциям и удерживать контекст.

Кстати, говорят, после долгого общения с ИИ человек невольно начинает ему подражать – так что выбирайте своего бойца 😅


Мы теперь и в МАX!

Самая выигрывающая от ИИ отрасль?

Один из главных претендентов на это звание – страхование.

Аналитическая компания McKinsey определила, что перестройка отдельных страховых процессов с помощью ИИ дает:
➡️до +20% к конверсии продаж
➡️до +15% к росту страховых премий
➡️до –40% к затратам на привлечение новых клиентов
➡️до +5% к точности обработки страховых случаев.

Но к подобным цифрам об эффективности ИИ все уже привыкли. Поэтому это еще не все.

⚡️️️За последние пять лет страховые компании, которые активно внедряют ИИ, принесли акционерам более чем в 6 раз больше дохода. Для большинства отраслей этот эффект в 2–3 раза меньше.

Как этот потенциал реализуется в России? Где ИИ уже используют страховщики, и что именно он умеет делать? Разбираем в карточках!


Мы теперь и в МАX!