Случайный Лес | AI-автоматизация без хайпа

Когда ваш ИИ-помощник работает на хакера

Многие до сих пор думают, что главная опасность ИИ - это когда он однажды заменит людей. Это пока далеко. А прямо сейчас происходит кое-что более приземленное и неочевидное.

ИИ-помощник с доступом к вашим системам - это новый сотрудник, которого очень легко обмануть. И он даже не чувствует подвоха.

Почему так выходит❓

Помощник не отличает информацию от приказа.
Всё, что он прочитал по дороге - описание задачи, чужая инструкция, файл с настройками, даже текст ошибки, - он может принять за команду от вас. И выполнить. С вашими правами и вашими доступами.

Дальше три истории. В каждой фигурирует слово "репозиторий" - так называют папку с кодом, которую разработчики выкладывают в открытый доступ, чтобы другие брали готовое и не писали с нуля. Все программисты пользуются ими каждый день. Теперь ими же пользуются и ИИ-помощники.

🔸 Февраль 2026. Copilot, ИИ-помощник от Microsoft.
Исследователи Orca Security показали: достаточно спрятать текст в описании рабочей задачи, чтобы Copilot сам отдал злоумышленнику ключ доступа ко всему репозиторию компании. Microsoft дыру закрыла.

🔸 Июнь 2026. Microsoft Azure.
Уже не эксперимент, а реальная атака. Вредонос подкладывали в чужие репозитории так, что он срабатывал в момент, когда разработчик открывал папку в ИИ-помощнике. GitHub экстренно заблокировал 73 репозитория в подразделениях Microsoft. Червь получил имя Miasma.

🔸 Июль 2026. ChatGPT, Gemini и Claude.
Злоумышленники создали около 7 600 поддельных репозиториев, больше 800 из них - под видом готовых «навыков» для ИИ. В тестах все три помощника сами находили эти подделки и рекомендовали их людям. 14 миллионов скачиваний. Внутри - программа, которая ворует пароли, ключи и активные сессии. Схему раскрыла компания Island.

Почему это касается вас, а не только айтишников ⚠️

Обычная проверка ищет подозрительный код. А зацепка чаще не в коде - в безобидном комментарии к задаче и файле с настройками.

Взломанный ИИ-помощник ведет себя не как вирус, а как ваш сотрудник: с его правами и его доступом к почте, CRM и документам.

Что делать

С умом подходить к использованию агентов. С умом = с правилами.

🔹 давать агенту минимум прав и только под конкретную задачу;
🔹 держать его в отдельной среде, без боевых паролей и данных;
🔹 разрешать только проверенные вами инструменты и дополнения, а не те, что он «нашел сам»;
🔹 требовать подтверждения человека на опасных действиях;
🔹 вести журнал: что агент сделал и почему.

ИИ-агент - не игрушка и не угроза. Это элемент инфраструктуры. Ему нужны права, политики и аудит - как и всему остальному.

📄 Технические подробности и детали историй - в нашей статье

Хотите понять, где у вас сейчас дыра, - напишите @krasheninni

Как обучаются модели? И почему вам, скорее всего, не нужно их обучать

Раз в пару недель приходит запрос: «хотим обучить нейросеть на наших данных». Почти всегда через полчаса разговора выясняется, что обучать ничего не надо.

Вот четыре ступени - от дешёвой к дорогой.

1️⃣ Промпт
Вы объясняете модели задачу обычным текстом. Ноль рублей, пять минут. Звучит несерьёзно, но на этом уровне закрывается больше половины рабочих задач.

2️⃣ Примеры в промпте
К инструкции добавляете несколько готовых образцов: вот входные данные, вот правильный ответ. Модель подхватывает формат, структуру и тон.
Так мы делали генерацию писем. Взяли прошлую переписку клиента, положили прямо в промпт - модель начала писать его языком, с его аргументацией и порядком блоков. Никакого обучения, два дня работы.

3️⃣ RAG - подключение базы знаний
Модель не переучивается. Она получает доступ к вашим документам и перед ответом находит в них нужный фрагмент.
Триста страниц регламентов, сотрудник задаёт вопрос - система отвечает и показывает пункт, откуда взяла. Регламент поменялся? Заменили файл, всё. Дообученная модель в этом месте потребовала бы полного цикла переобучения.

4️⃣ Дообучение
Здесь мы действительно меняем саму модель. Показываем ей тысячи примеров правильного поведения, и она сдвигает свои веса.

Правило, которое экономит бюджеты

Знания - в базу. Поведение - в дообучение. Модель чего-то не знает? Дайте ей документы. Знает, но делает не так, как надо? Тогда – дообучайте!

Дообучение оправдано в четырёх случаях

🔹нужен жёсткий формат вывода, который промптом не удержать;
🔹узкий профессиональный язык. У нас так было с градостроительной документацией: обычная модель путала виды разрешённого использования, и никакие инструкции не помогали;
🔹нужна маленькая быстрая модель вместо большой дорогой. Дообученная модель на 8 миллиардов параметров делает одну узкую задачу не хуже топовой, но на объёме дешевле в десятки раз;
🔹миллионы запросов в месяц, где длинный промпт превращается в отдельную статью расходов.

Что для этого нужно

🔻Данные. От 500–1000 пар «запрос - правильный ответ». Именно ваших, с вашими формулировками и краевыми случаями.
🔻Человек, который эти пары разметит. Это главная статья затрат, а не видеокарты. Модель выучит ровно то, что вы ей покажете, включая ошибки разметчика.
🔻Набор тестов. Сотня примеров, которые в обучении не участвуют. Без них вы не отличите «стало лучше» от «кажется, стало лучше».
🔻Метод. Чаще всего это LoRA: обучаются не все веса, а небольшая надстройка поверх. Дешевле в разы, для прикладных задач качество сопоставимое.

С чего начинать

С промпта. Потом примеры. Потом база знаний. Дообучение - последняя ступень, а не первая.

Большинство типовых задач закрывается уже на третьем шаге. Но если требуемый эффект не достигнут, тогда доводим качество дообучением.

А у вас были задачи, где промпта не хватило?

Случайный Лес | AI-автоматизация без хайпа pinned a file

Практическое пособие по внедрению ИИ в процессы организаций

Выпустили практическое пособие для собственников и руководителей, которые видят, что процессы можно ускорить, но не понимают, с чего начать и какие возможности есть. 30 полос.

Что внутри:
🔹12 технологий простым языком: что умеет каждая и где применяется
🔹таблица с навигацией «что происходит у вас → какую технологию смотреть»
🔹формула окупаемости с примером расчёта: можно посчитать свой процесс
🔹8 наших проектов с цифрами
🔹из чего состоит внедрение: 9 этапов, сроки, что решается на каждом
🔹ответы на вопросы, которые задают перед стартом

Отдельный блок — про ограничения и безопасность: чего ИИ пока не может, где без человека не обойтись и какие риски необходимо проработать.

Файл прикреплён к посту.

А если нужно разобрать конкретный процесс, напишите — оценим потенциал автоматизации вашего бизнеса.

Неуспешный кейс: когда эксперимент признали неудачным

Про удачные внедрения пишут все. Про неудачные проекты - почти никто. Расскажем про наш.

Задача

Заказчик пришёл с базой из двадцати тысяч завершённых тендеров и понятным запросом: предсказывать итоговую цену в будущих торгах. Требовалась точность предсказаний не ниже 80% при допуске плюс-минус 20. То есть если тендер по факту ушёл за миллион, система должна назвать диапазон 800-1200 тыс. - и попадать в него в восьми случаях из десяти.

Задача поставлена грамотно: измеримо, проверяемо, с внятным критерием приёмки. Данные есть, параметров в базе достаточно.

Что получилось

Мы прогнали серию экспериментов. Потолок - 70,4%.

Заказчика это не устроило, проект закрыли.

И скажу прямо: 70% вместо 80% - это не «чуть-чуть не дотянули». На тендере такая ошибка съест маржу целиком, а модель, которая промахивается в трёх случаях из десяти, для ценообразования бесполезна. Заказчик был прав, что отказался от внедрения.

Почему не получилось

Разбор свёлся к одному: данных было недостаточно. Не по объёму - двадцать тысяч записей это нормально. По составу.

В базе лежали параметры закупки: предмет, начальная цена, регион, заказчик, сроки, вид работ, тип тендера, наличие лицензий.

Но величину падения определяет не объект. Её определяют люди, которые прямо сейчас решают, идти им в этот тендер или нет. Насколько загружены их мощности в этом квартале. Нужен ли им конкретно этот заказчик, чтобы зайти в регион. Есть ли кассовый разрыв, ради закрытия которого можно уйти в ноль по марже. И сколько участников вообще выйдет на подачу.

Ни одного из этих признаков в базе не было. И это объяснимо: данные описывают объект закупки, а не состояние конкурентов в конкретную неделю.

Вывод

Любая система предсказаний - это эксперимент. А эксперимент по определению может дать отрицательный результат. Иногда задача просто не имеет решения на тех данных, которые есть.

Мы говорим об этом на этапе оценки: что сработает точно, а что под вопросом и почему. Причина обычно не в технической невозможности моделирования. Причина в том, что нужных признаков либо нет в данных, либо их в принципе нельзя собрать.

Всегда можно переопределить метрику, сузить выборку и отчитаться о 80% на удобном срезе. Так делают.

Мы за то, чтобы экспериментировать и пробовать. Отрицательный результат - тоже результат. Главное - не выдавать его за положительный.

А у вас был AI-проект, который вы закрыли, не получив ожидаемый результат?

Три главных разочарования при внедрении ИИ, и как их избежать

Начинается всегда одинаково - с восторга! 🤪

Когда AI-контур разворачивается над корпоративными системами, первая реакция почти у всех эйфория. Человек спрашивает обычными словами и получает ответ за три секунды там, где раньше уходило сорок минут на выгрузку и сведение руками. Это впечатляет каждого без исключения.

Разочарование приходит позже и почти всегда в одной из трёх форм.

1️⃣ «Система закрывает слишком мало случаев»

Работает, всё верно, но люди продолжают разбирать вручную большую часть потока. Эффекта не видно.

Так выходит, когда проработан идеальный сценарий из регламента: пришёл документ, система его разобрала, данные уехали в учётную систему. По этому сценарию идёт хорошо если пятая часть потока. Остальные 80% процесса живут в вариативности - один и тот же документ приходит то PDF-ом, то сканом, то фотографией в теле письма, то таблицей во вложении, поля у каждого контрагента называются по-своему, а логика обработки зависит от отправителя и типа договора.

Лечится это до старта, а не после. Берём реальный поток за квартал, не отобранный, и раскладываем на ветки: какие форматы, какие структуры данных, какая логика обработки на каждой. Дальше договариваемся, что уходит в первую версию, а что осознанно пока остаётся на людях. И критерий приёмки формулируем не как «работает на примере», а как «закрывает такую-то долю потока». Всю вариативность вскрыть нельзя, большинство известных веток - обязательно.

2️⃣ «Система неверно интерпретирует данные»

В базе физически лежит всё нужное, а ответ выходит кривой.

Был случай: нам передали таблицу на сто тысяч строк в расчёте, что система теперь ответит на любой вопрос. Волшебства не произошло. Она брала не те поля, путала сущности, неверно достраивала логику связей. Причём делала это уверенно, без единого признака сомнения.

Это не проблема, а задача - обычная задача анализа и обработки данных. Дубли, пропуски, выбросы, нормализация справочников.

Отдельный случай - текстовые поля с произвольными описаниями: под них пишется алгоритм, который вытаскивает ключевое из разнородного и местами противоречивого текста. Работа трудоёмкая, но точность выдачи после неё растёт в разы. В одном проекте у нас ушло 90% разработки именно сюда, и ровно это дало результат.

Вывод практический: подготовку данных нужно планировать как отдельный этап со своим сроком и своими критериями готовности. Это важный этап в любом AI-проекте.

3️⃣ «Система ошибается и придумывает»

Самое опасное из трёх. Ошибку модели не всегда видно сразу, а уверенный неверный ответ уходит дальше по процессу и приводит к принятию ошибочных решений.

Причина почти всегда в недостаточном тестировании. Нельзя игнорировать этот этап, именно на нём решается главное - найти все случаи, где модель ошибается, и научить систему их обрабатывать.

Работает это так. Сначала тесты, а затем опытная эксплуатация на реальном потоке, каждое расхождение попадает в реестр, каждое разбирается по причине. Дальше 90% закрывается технически, и не за счёт модели, а за счёт обвязки: ограничение источников, обязательная ссылка на конкретный документ или поле, запрет отвечать при недостатке данных, маршрутизация спорных случаев на человека. Модель, которая говорит «данных недостаточно», полезнее модели, которая всегда что-нибудь отвечает.

Все три разочарования - не про модель. Все три - про то, что вокруг неё.

А где не получилось у вас?

Нейрокомментаторы: возможность для роста или моветон?

Под этим постом может появиться комментарий от человека, который его не писал. 😁

Как работает технология

Механика простая и, что важно, недорогая.

Берётся живой (или «прогретый») Telegram-аккаунт. К нему подключается сервис, который:
🔹подписывается на список каналов с нужной аудиторией;
🔹отслеживает выход новых постов;
🔹отправляет текст поста в языковую модель с заранее заданным промптом-ролью;
🔹получает контекстный комментарий;
🔹публикует его от имени владельца аккаунта;
🔹работает через прокси и антидетект, чтобы не словить блокировку.

Технически в Telegram это проще, чем где-либо: есть Bot API, есть библиотеки. Порог входа - минимальный. Готовые облачные сервисы стартуют примерно от 10к в мес.

Смысл в том, что комментарий - бесплатный способ показаться перед чужой аудиторией. Читатель видит осмысленную реплику, кликает на аватар, попадает в описание профиля, оттуда - в канал или бота. Лидогенерация на чужом контенте.

Сколько этого уже вокруг?

Pangram разобрал миллион публикаций в соцсетях: 13,8% написал ИИ, а среди постов длиннее 250 слов - 25%. Forbes оценивает долю нейрокомментариев в русскоязычных Telegram-каналах в десятки процентов. Один бот делает до 3 000 комментариев в день и подписан на 1 000 каналов.

Три года назад бот палился на «Отличный пост, спасибо за информацию! 👍». Сейчас модель видит текст целиком и отвечает по существу, в промпт зашивают роль вплоть до опечаток, задержку публикации рандомизируют, аккаунты греют постепенно.

Вот как это выглядит на практике. Два комментария под постом про окупаемость автоматизации:

Считали похожее у себя в опте. Окупаемость вышла не 6 месяцев, а ближе к 9 - недооценили, сколько времени уйдёт на чистку справочников. В плюс всё равно вышли, но осадочек остался)

Спорный момент про RPA. У нас на складе половина процессов до сих пор на нём - ERP закрытая, API никто не даст. Другое дело, что поддержка стала дороже самой автоматизации. У вас в кейсе интеграция через API шла или тоже через интерфейс?

Ни одного восклицательного знака, ни одной похвалы автору. Личный опыт, конкретная цифра, лёгкое несогласие, встречный вопрос, разговорная интонация - ровно то, по чему мы обычно опознаём живого человека. Оба написаны моделью за 4 секунды.
 
Так возможность или моветон?

Технология работает. При грамотном подходе можно генерировать даже узкоэкспертные комментарии, которые не отличить от человеческих.

Дело не в самой генерации и не в риске разоблачения. Дело в том, что комментатор выдаёт себя за реального человека. В массовом сегменте это мало кого смутит. В экспертных продажах - стоит доверия, а восстанавливать его дороже, чем весь сэкономленный трафик.

Поэтому мы для своего продвижения комментинг не используем. Хотя технически это задача того же класса, что обработка документов или маршрутизация заявок. Обычная AI-задача.

А как вы относитесь к нейрокомментингу? Пользовались? Замечали ботов у себя в комментариях?

Как дать сотрудникам доступ к AI?

Нас часто спрашивают: как лучше дать команде доступ к AI?

Есть несколько подходов. Они отличаются стоимостью и тем, что AI будет уметь.

Допустим, у вас 10 сотрудников, которым AI полезен в работе.

1️⃣ Индивидуальные аккаунты

Каждый получает ChatGPT / Claude и работает с ним самостоятельно.

Стоимость: бесплатно с лимитами на токены или $20–25 в месяц за пользователя.

Подходит: чтобы быстро и недорого начать использовать AI.

2️⃣ Корпоративный AI + база знаний

AI получает доступ к корпоративным документам: регламентам, договорам, инструкциям, базе проектов, каталогам и т.д.

Например:

«Какие условия мы предлагали клиенту X в прошлом году?»

AI сам ищет ответ в подключенных источниках.

Стоимость: корпоративный аккаунт + настройка базы знаний. Пилот - 100–300 тыс. ₽, сложная система обойдется дороже: потребуется проработка базы знаний и сценариев доступа к данным.

Подходит: когда AI должен не просто отвечать, а знать вашу компанию.

3️⃣ Корпоративный AI + база знаний + интеграции

AI получает доступ не только к информации, но и к рабочим системам: CRM, ERP, 1С, ЭДО, почте, календарю, файловым хранилищам.

Например:

«Найди клиента X в CRM, проверь последнюю сделку, посмотри остатки в ERP, подготовь КП и создай задачу менеджеру».

AI может получать данные, анализировать их и выполнять действия по заданным правилам.

Стоимость: здесь нужен бизнес-анализ и разработка. Каждая интеграция стоит десятки–сотни тыс. рублей, комплексное решение - от нескольких сотен тысяч и выше.

Подходит: когда нужно автоматизировать сам процесс, а не просто дать сотруднику AI-инструмент.

Все три подхода имеют право на существование.

🔹Если вам нужно просто дать сотрудникам современный инструмент - достаточно первого.

🔹 Если AI должен знать внутреннюю информацию компании - нужен второй.

🔹 Если AI должен не только отвечать, но и выполнять работу - третий.

Сначала стоит определить, что именно должен делать AI, с какими данными работать и какие действия выполнять. А уже после этого выбирать технологию и уровень интеграции ИИ.

Остались вопросы - обращайтесь, поможем разобраться и выбрать оптимальное решение.

#ликбез

Как быть, если вопрос автоматизации упирается в безопасность данных?

К нам часто обращаются клиенты, которые хотят внедрить искусственный интеллект, но не готовы отправлять данные во внешний контур, а тем более за границу. Вопрос всегда один:

Можно ли развернуть локальную LLM в закрытом контуре так, чтобы она реально хорошо работала?

Да, можно.

Еще пару лет назад мы бы сказали: без топовых коммерческих моделей OpenAI хороший AI-сервис не собрать. Но все изменилось. Открытые модели тоже стали лучше. Мы много экспериментировали и пришли к выводу, что современные Qwen, Llama, Gemma или Mistral уже вполне закрывают большинство корпоративных задач.

Разница с коммерческими моделями, безусловно, есть: в сложных рассуждениях и нестандартных сценариях Claude выглядит сильнее. Но для прикладных бизнес-задач этот разрыв не критичен.

Например, локальные модели уже отлично справляются с:
🔹анализом документов;
🔹классификацией обращений;
🔹суммаризацией переписки или звонков;
🔹поиском информации по внутренней базе знаний;
🔹генерацией структурированных ответов;
🔹корпоративными AI-помощниками.

При этом не для каждой задачи вообще нужна большая языковая модель. Для классификации текстов, определения тематики и семантического поиска отлично подходят компактные BERT-модели. Они требуют значительно меньше вычислительных ресурсов.

Например, недавно мы разворачивали дообученную RuBERT-модель на сервере клиента под задачу классификации текстовых данных. 34 класса модель распознавала с точностью 98,4%. Для ее работы было достаточно ресурсов простого ноутбука.

Но качество решения зависит не только от модели. На практике важнее то, что вокруг неё: память диалога, поиск по базе знаний (RAG), сценарная логика, интеграции, модерация ответов, управление контекстом. От этого зависит, будет ли ИИ вести себя как полезный помощник или как глуповатый чат-бот.

Что касается ресурсов: благодаря квантизации модели, которым ещё недавно был нужен сервер с несколькими GPU, сегодня работают на одной современной видеокарте. Поэтому локальные LLM сегодня доступны не только крупным компаниям, но и малому бизнесу.

Главный вывод нашей команды после работы с локальными моделями:

Сегодня вопрос уже не в том, можно ли заменить облачную LLM локальной, а в том, насколько грамотно построена система вокруг неё. Именно архитектура, а не выбор модели, определяет конечный результат.

Если для вас закрытый контур - это условие, без которого о внедрении ИИ не может быть и речи, - напишите нам, разберём ваш случай.

#ликбез

Почему «дать сотруднику платный Claude» - это ещё не автоматизация?

Теперь почти в каждой компании пользуются ИИ. Кто-то вручную просит ChatGPT написать регламент, кто-то уже экспериментирует с первыми агентами. Это важный шаг на пути освоения ИИ, но это только начало.

Максимум пользы инструмент даёт, когда он заточен под конкретную задачу, встроен в процесс и интегрирован в системы компании. Можно дать каждому жителю города автомобиль, но без дорог, светофоров, парковок и правил дорожного движения люди не смогут полноценно им пользоваться.

Сегодня поговорим про бизнес-анализ. Важнейший этап реализации любого ИИ-проекта.

Прежде чем внедрять решение, нужно ответить на четыре вопроса:

🔹 какая именно задача, действие или процесс автоматизируется;
🔹 какой требуется результат на выходе;
🔹 какие данные для этого нужны;
🔹 как эти данные следует обработать.

Звучит просто. На практике - нет.

То, как сотрудник реально работает, обычно живёт не в регламенте, а у него в голове. Он держит в уме десяток исключений, знает, кому позвонить, если данные не сходятся, и делает пять решений, которые сам не считает решениями - просто «так надо».

Бизнес-анализ вытаскивает это наружу. Аналитик говорит с людьми, которые реально делают работу, и переводит их знания в структуру - на языке, понятном машине. С учётом всех требований к результату и всех вариаций логики, а не только «идеального пути».

Бизнес-анализ особенно критичен, если:

🔸 процессы не описаны и не оцифрованы;
🔸 «на бумаге» один процесс, по факту люди давно работают иначе;
🔸 всё держится на знании и опыте конкретных специалистов;
🔸 данные разбросаны по системам без единого источника правды;
🔸 процесс вариативен и имеет множество сценариев.

Это не повод отказаться от автоматизации. Это ровно тот случай, когда бизнес-анализ критически необходим до внедрения ИИ.

Бизнес-анализ делает из хаоса систему. Если пропустить этот шаг и сразу «включить ИИ» - он начнёт быстрее и в больших масштабах воспроизводить существующий хаос, только теперь ещё и с претензией на «интеллектуальность».

В наших проектах бизнес-анализ - не формальность перед разработкой, а важнейшая его часть.

Если у вас уже был опыт, когда «внедрили ИИ», а ошибок стало только больше - пишите в комментарии, разберём, что чаще всего идёт не так.

#ликбез

Знакомьтесь, Анечка!

Анечка – это скриптовой голосовой робот, цифровой сотрудник отдела маркетинга и продаж, сфокусированный на лидогенерации.

Анечка умеет звонить клиентам, выявлять их потребности, анализировать ответы и квалифицировать лиды.

Задача: собрать с потенциальных клиентов обратную связь об их статусе/ интересе/ потребностях в продукте и пр. База: 10 000 номеров.

Проблема: если это будут делать люди, то это займет 200  чел./дн. или 1 млн. руб.

Решение: поручаем задачу Анечке и получаем на выходе квалифицированную холодную базу.

Подробности в карточках. Позже я расскажу, чем скриптовые роботы отличаются от генеративных и почему вторые пока работают хуже.

Напишите мне, я пришлю записи реальных разговоров Анечки и отвечу на вопросы.

Каждый может сделать Анечку под свои задачи.

#кейс