AIRu

Всех с пятницей! 👍

Рубрика "юмор по пятницам" 🤣

Как выстраивать безопасность ИИ-агентов: руководство «Лаборатории Касперского»

«Лаборатория Касперского» выпустила руководство «Безопасность ИИ-агентов через призму кибериммунитета». Документ предназначен прежде всего для руководителей ИТ и ИБ, архитекторов и разработчиков, которые проектируют или внедряют агентные системы.

В руководстве выделены четыре ключевые группы рисков:
1️⃣ недоверенное когнитивное ядро на базе LLM;
2️⃣ сочетание доступа к конфиденциальным данным с обработкой недоверенного ввода и взаимодействием с внешними системами;
3️⃣ избыточные полномочия агентов;
4️⃣ непрозрачность их действий.

Для снижения этих рисков авторы предлагают применять принципы кибериммунного подхода – закладывать цели и допущения безопасности ещё на этапе проектирования архитектуры. Среди практических принципов – минимально необходимые права доступа, изоляция, аудит действий и подтверждение человеком критических операций.
В документе также разобраны реальные инциденты и подходы к построению безопасных агентных архитектур.

📌AIRu: Практический смысл для бизнеса в том, что безопасность ИИ-агентов нужно проектировать до их подключения к корпоративным данным и системам, а не добавлять после запуска. На этапе пилота стоит заранее определить права агента, критические действия, требующие подтверждения человеком, правила журналирования и границы доступа к внешним сервисам. Это снижает риск того, что успешный эксперимент с агентами позже придётся дорого перестраивать под требования ИБ.
Полное руководство прикладываем к посту 👇

Живые HR больше не нужны? «Билайн» готовит ИИ для проведения 10 тыс. интервью в год. Понимание речи – 99%

«Билайн» хочет передать AI-агентам почти весь первичный найм.
Не просто чат с кандидатом и не отдельный скрининг резюме. «Билайн» хочет собрать AI-платформу, которая будет вести кандидата сразу через несколько этапов найма и работать во всех основных каналах общения.

По данным CNews, оператор собирает предложения на платформу AI-агентов для массового подбора сотрудников. Пока речь идет о требованиях к будущей системе, но их масштаб уже показывает, насколько глубоко компания готова встроить AI в HR-процесс.

Первое, что бросается в глаза, – охват каналов.
AI должен общаться с кандидатом там, где тот оставил отклик: на HeadHunter, «Авито», SuperJob, во «ВКонтакте», «Максе», на карьерном сайте «Билайна» и даже по телефону через IVR.
То есть кандидат может начать взаимодействие на работном сайте, продолжить его в мессенджере или по телефону, а система должна сохранить единый контекст.

Дальше – больше.
🔹 AI будет анализировать резюме и определять, насколько опыт кандидата соответствует конкретной вакансии.
🔹 Он сможет проводить тестирование: проверять компетенции, компьютерную грамотность и логику. Вопросы могут быть открытыми и тестовыми, с изображениями, аудио и видео.
🔹 AI сможет сам начинать разговор с кандидатом, например писать ему во «ВКонтакте» или «Максе», если нужно вернуть человека в воронку или продолжить отбор.
🔹 После общения система должна сформировать оценку кандидата, сохранить транскрибацию разговора и показать сотруднику HR результаты по каждому взаимодействию.

Но, пожалуй, самая важная часть – интеграция с рекрутинговой системой.
AI-агент должен не только разговаривать и оценивать, но и выполнять действия внутри HR-процесса. Перемещать кандидата между этапами и вакансиями, записывать на групповые мероприятия, выставлять статусы и теги, фильтровать поток, обновлять карточку кандидата и загружать туда результаты оценки.
По сути, речь идет уже не о помощнике рекрутера, а о цифровом исполнителе, встроенном в саму механику найма.
И требования к нему очень жесткие.
- Точность распознавания речи и ответов – не менее 99%.
- Совпадение оценки компетенций с оценкой HR-эксперта – минимум 85%.
- Точность первичного анализа резюме – более 90%.
- Ответ кандидату – не дольше 10 секунд.
Это важный сдвиг в подходе к корпоративным AI-агентам. Их начинают оценивать уже не по тому, насколько убедительно они ведут диалог, а по SLA, точности решений и способности выполнять операции внутри бизнес-системы.

📌 Вывод AIRu: здесь особенно впечатляет не сам AI в рекрутинге, а глубина автоматизации. Если такая схема заработает на массовом найме, компании получат очень наглядный пример того, как AI-агенты могут брать на себя целый операционный контур – от первого контакта до решения, что делать с кандидатом дальше.
P.S. Мы с коллегами в шоке от масштаба задуманного, чесслово 😱

AIRu в VK
AIRu в MAX

Кто должен внедрять AI в компании: модель, которая работает

Компании всё чаще упираются не в возможности AI, а в организацию его внедрения. Модель можно выбрать быстро, пилот запустить тоже. Сложнее выстроить работу так, чтобы решения доходили до конкретных бизнес-процессов и не зависели от одной перегруженной команды.

Всеволод Викулин, руководитель разработки агентов в Т-Банке, в статье на vikulin.ai предлагает смотреть на эту задачу через распределение ролей внутри компании. Логика простая: если весь поток AI-инициатив замкнуть на небольшой центральной команде, она быстро станет ограничением для масштабирования.

В рабочей модели нужны как минимум три уровня ответственности.
🔹 Центральная AI-команда отвечает за общую технологическую основу: доступ к моделям и данным, интеграции, безопасность, контроль качества, мониторинг и готовые компоненты. Её задача – не делать каждое внедрение вручную, а создать среду, в которой новые решения можно запускать быстрее и дешевле.
🔹 Forward Deployed Engineers, или FDE, работают ближе к бизнес-подразделениям. Они разбираются в конкретном процессе, понимают его ограничения и собирают решение прямо вокруг реальной задачи.
Это особенно важно для крупных компаний, где значительная часть потенциала AI скрыта не в нескольких крупных проектах, а в сотнях небольших процессов: проверке документов, согласованиях, расчётах, обработке обращений, внутренней аналитике.
Интерес к роли FDE уже растёт. По данным, приведённым в материале, к апрелю 2026 года число вакансий для таких специалистов на Indeed выросло более чем на 700% год к году.
Но постоянно покупать такую экспертизу снаружи дорого и не всегда эффективно. Знание внутренних процессов уже находится внутри компании, поэтому часть подобных специалистов логично выращивать из инженеров, аналитиков и технически сильных продакт-менеджеров.
🔹 Третья роль – руководитель AI-трансформации. Его задача – не следить за отдельными пилотами, а решать, какие процессы стоит менять в первую очередь, куда направлять ресурсы и где AI действительно способен дать измеримый эффект.
Именно здесь проходит граница между набором локальных инициатив и системным внедрением. AI начинает приносить заметную ценность, когда компания перестраивает вокруг него процессы, а не просто добавляет новые инструменты к старому порядку работы.
Со временем часть AI-сценариев станет настолько простой, что сотрудники смогут собирать их самостоятельно. Но архитектура, приоритеты и ответственность всё равно останутся управленческой задачей.

📌 Вывод AIRu: если все AI-задачи проходят через одну центральную команду, масштабирование быстро начнёт буксовать. Рабочая модель требует разделения ответственности: платформа в центре, внедрение рядом с бизнесом, приоритеты на уровне руководства.

AIRu в VK
AIRu в MAX

📌 Дайджест за прошедшую неделю
Собрали для вас самые важные новости за прошедшую (28.09-04.10.2026) неделю

1️⃣ Для нефтегаза создадут единый «мозг» из десятков ИИ-агентов 🛢
В России готовят цифровую платформу данных о недрах, которая объединит десятки AI-агентов для работы с геологической и производственной информацией. Такой подход может заметно ускорить анализ данных и принятие решений в одной из самых капиталоемких отраслей.

2️⃣ OpenAI отложила GPT-6.1 Astra из-за проблем с контролем модели ⚠️
По данным РБК, запуск новой модели перенесли после выявленных проблем с поведением системы, включая сокрытие логов и недостоверные ответы. Чем мощнее становятся модели, тем больше времени разработчики вынуждены тратить не только на интеллект, но и на управляемость.

3️⃣ Трамп и IT-гиганты договорились усилить контроль над ИИ 🇺🇸
Крупнейшие технологические компании США подписали соглашение с администрацией Дональда Трампа о новых механизмах контроля над развитием искусственного интеллекта. Регулирование AI все теснее связывают с вопросами национальной безопасности и технологического лидерства.

4️⃣ Anthropic готовится к IPO с убытком в $42 млрд 💸
По данным Reuters, один из крупнейших разработчиков AI-моделей выходит на публичный рынок, несмотря на огромные накопленные убытки. Инвесторам предстоит решить, насколько быстро миллиардные расходы на вычисления и разработку смогут превратиться в устойчивую прибыль.

5️⃣ ИИ расшифровал послание Наполеона спустя 217 лет 📜
Искусственный интеллект помог исследователям прочитать зашифрованный исторический документ, который более двух веков оставался загадкой. AI все активнее используют там, где человеку приходится работать с огромным количеством сложных и неполных данных.

6️⃣ «Яндекс» представил Sona – одну модель вместо десятков рекомендательных алгоритмов 🎯
Новая AI-модель способна заменить сразу несколько специализированных систем рекомендаций. Для крупных цифровых платформ это может упростить архитектуру, обучение моделей и масштабирование персонализации.

7️⃣ Трамп учредил в США Силы суперинтеллекта 🇺🇸
В США создана новая структура, связанная с развитием и контролем технологий сверхмощного ИИ. Решение показывает, что тема суперинтеллекта уже переходит из футурологических дискуссий в сферу государственной политики.

AIRu в VK
AIRu в MAX

Всех с пятницей! 👍

Всем знакомо? 🤣

Рубрика "пятничный юмор"

Поставщиков AI для госсектора стало вдвое больше. Что происходит с российским рынком ИТ-закупок

За девять месяцев 2026 года рынок государственных ИТ-закупок заметно изменился. Число поставщиков AI-решений выросло более чем в два раза, тогда как поставщиков антивирусного ПО стало на 18% меньше.
Такие данные приводит CNews по итогам мониторинга госзакупок аналитиками Effect Isource за три квартала 2026 года.

Картина получается показательная: в новых AI-категориях число игроков быстро растет, а зрелые ИТ-сегменты постепенно концентрируются вокруг крупных платформ и комплексных решений.

В закупках AI-решений в 2025–2026 годах, по данным исследования, участвовали АО «РИВЦ», «ИТ Нова», «Антиплагиат», «ПТМ», «Инлайн Технолоджис», АБМ, «ИТМО.ИСКИН» и другие компании. Аналитики связывают рост сегмента в том числе с господдержкой AI и ожидают дальнейшего увеличения числа внедрений.

На рынке информационной безопасности движение идет в противоположную сторону. Количество поставщиков антивирусного ПО за девять месяцев сократилось на 18% год к году. При этом сам рынок защиты конечных устройств продолжает расти: по данным Центра стратегических разработок, его объем превысил 40 млрд рублей, прибавив 14,9% за год.

Меняется и характер спроса. Заказчики постепенно переходят от отдельных антивирусных продуктов к более комплексным системам, включая EDR, которые позволяют обнаруживать сложные атаки и реагировать на них.
Представитель Positive Technologies связывает этот процесс с импортозамещением, требованиями регуляторов и ростом зрелости компаний в области ИБ. Дополнительный фактор – использование AI при создании вредоносного ПО, из-за чего AI-механизмы все активнее применяются и в средствах защиты.

Еще один показательный сегмент – видеоконференцсвязь. Рынок ВКС за три квартала 2026 года снизился на 13%, тогда как годом ранее падение составляло 34%. Effect Isource объясняет замедление сокращения уходом слабых игроков и развитием российских платформ.

В итоге в госзакупках одновременно развиваются два процесса.
🔹 В AI число поставщиков быстро увеличивается, поскольку рынок еще формируется и заказчики тестируют разные подходы и продукты.
🔹 В зрелых категориях идет консолидация: заказчики сокращают количество точечных решений и чаще выбирают платформы, которые закрывают сразу несколько связанных задач.
Для ИТ-компаний это меняет требования к продукту. Одной сильной функции уже недостаточно. Все большую роль играют интеграция с существующими системами, безопасность, соответствие требованиям регуляторов и способность показать измеримый результат в реальных процессах заказчика.

📌 Вывод AIRu: рост числа AI-поставщиков показывает высокий интерес госсектора к новой категории, но следующий этап будет сложнее. По мере взросления рынка конкуренция, вероятно, сместится от количества функций к надежности, интеграции и доказанному эффекту от внедрения.

AIRu в VK
AIRu в MAX

КЕЙС: Как устроен корпоративный AI в Siberian.pro: процессы, стек и измеримый эффект

Сколько рабочего времени в компании съедают действия, которые никто не считает сложными, но приходится повторять каждую неделю?
В Siberian.pro посчитали: в отдельных процессах на такую работу уходило от 25% до 40% времени специалистов и руководителей. Маркетологи вручную собирали аналитику, руководители продаж проверяли CRM, HR разбирал кадровые запросы и сотни откликов.

Компания решила автоматизировать эти процессы и собрала собственного корпоративного AI-ассистента «Сибирский Клавдий».
По материалам кейса Generation AI с основателем и CEO Siberian.pro Владом Кармаковым.
Главный интерес здесь даже не в самом чат-интерфейсе. «Клавдия» встроили непосредственно в рабочие процессы и корпоративные системы, причем с разграничением доступа к данным.
Например, менеджер по продажам получает доступ только к своим сделкам, маркетинг – к своим аналитическим пайплайнам, а кадровые данные обрабатываются отдельно с соответствующими правами. Конфиденциальная информация при этом может оставаться внутри закрытого корпоративного контура.

Что получилось на практике?

🔹 HR: минус 40% рутинной нагрузки. Через Mattermost сотрудники оформляют отпуска и больничные, запрашивают справки. Ассистент проверяет данные, учитывает пересечения отпусков, формирует документы и передает их в кадровую систему.
Отдельный агент подключен к HeadHunter API: он собирает отклики, анализирует кандидатов по заданным критериям и формирует дашборд с их распределением по релевантности.

🔹 Маркетинг: 15 минут вместо 4 часов в неделю. Агент автоматически собирает показатели из подключенных каналов, проверяет аномалии и формирует дашборд. По расчетам компании, это дает более 200 сэкономленных часов в год.

🔹 Продажи: контроль CRM ускорился в 7–8 раз. Агент внутри Битрикс24 анализирует активные сделки, замечает пропущенные данные и задержки на этапах, а затем дает менеджеру подсказки с учетом контекста клиента.

Есть и еще одна показательная цифра: доля сотрудников, регулярно использующих AI, выросла с менее чем 15% до более чем 80%.
И здесь в кейсе обнаружилась важная управленческая деталь. Первая попытка провести трансформацию силами IT-команды уперлась не в качество моделей. Технологическая команда могла внедрить инструмент, но не могла самостоятельно изменить привычки, KPI и рабочие процессы других подразделений.
Поэтому Siberian.pro подключила к внедрению сами бизнес-юниты, организовала внутреннее обучение и дала сотрудникам возможность создавать собственные сценарии автоматизации. Например, инструмент для скрининга резюме HR-менеджер собрала самостоятельно в рамках внутренних AI-воркшопов.

⚙️Технологический стек
OpenClaw – оркестрация и создание AI-агентов
LiteLLM – прокси-слой и маршрутизация запросов к моделям
Open-source LLM + vLLM – работа с конфиденциальными данными в on-premise контуре
Mattermost – интерфейс для кадровых сценариев
HeadHunter API – работа с откликами кандидатов
Битрикс24 и внутренние CRM/HR-системы – интеграция с бизнес-процессами
Confluence API и Jira API – доступ агентов к корпоративным данным и рабочим системам
При этом автономность намеренно ограничена. Документы, коммерческие предложения и кадровые материалы проходят проверку человеком, а спорные технические и юридические вопросы передаются профильным специалистам.
Следующий этап для Siberian.pro – юридические и финансовые сценарии: первичный анализ договоров и актов, предиктивная аналитика воронки продаж и прогнозирование загрузки команд.

📌 Вывод AIRu: сильная сторона этого кейса – не количество подключенных моделей, а архитектура внедрения: конкретный процесс, измеримый эффект, доступ к нужным корпоративным данным и понятная зона ответственности человека. Для руководителя здесь особенно полезен подход к масштабированию: сначала найти повторяемую операцию с заметной стоимостью в человеко-часах, затем встроить AI непосредственно в ее рабочий контур.

AIRu в VK
AIRu в MAX

Как промышленные предприятия оценивают эффект от ИИ 💰

В промышленности эффект от ИИ уже считают не количеством пилотов, а рублями, простоями, браком и производительностью.
Редакция спецпроектов Forbes совместно с компанией «Атвинта» изучила опыт крупных промышленных компаний, которые уже внедряют AI в производство.

🔹 В «Норникеле» ИИ работает на 70–80% ключевых агрегатов в обогащении и металлургии. Совокупный эффект от AI-решений компания оценивает более чем в 10 млрд рублей в год, около 4 млрд из них дает система управления мельницей.

🔹 В «ЕвроХиме» рекомендательная система анализирует 1500 параметров производства. Рост выработки на 2% и снижение расхода газа на 1% дали эффект примерно в 1,5 млрд рублей.

🔹 ММК за пять лет реализовал 91 цифровой проект, 51 из которых связан с ИИ. Экономический эффект компания оценивает в 6,5 млрд рублей.

🔹 В «Северстали» за 2025 год ИИ помог сэкономить 300 тысяч рабочих часов. Но в компании отдельно отмечают: сами по себе сэкономленные часы не дают финансового эффекта, если вместе с технологией не меняется бизнес-процесс.

Именно поэтому промышленные компании все жестче подходят к выбору AI-проектов. До масштабирования доходят решения, где заранее определена измеримая метрика, понятна окупаемость и есть возможность тиражирования.
Например, в «ЕвроХиме» ориентируются на проекты с горизонтом окупаемости один-два года. В «ТЕХНОНИКОЛЬ» ИИ-ассистент сократил диагностику неисправностей с 20–60 минут до 30–40 секунд, а простои, связанные с настройкой оборудования, по оценке компании, снизились до 60%.

При этом основные сложности повторяются: качество и разрозненность данных, старое оборудование, стоимость вычислительной инфраструктуры и готовность сотрудников менять привычные процессы.
В критических производственных сценариях финальное решение компании пока оставляют человеку. ИИ помогает прогнозировать и подбирать оптимальные режимы, но ответственность за результат сохраняется за специалистом.

📌 Вывод AIRu: Самое интересное в этих кейсах – ИИ начинает окупаться там, где его привязывают к очень конкретной проблеме: простою, расходу сырья, браку, скорости диагностики. Как только проект уходит в абстрактное «давайте внедрим AI», экономика становится гораздо менее убедительной.

AIRu в VK
AIRu в MAX

📌 Дайджест за прошедшую неделю
Собрали для вас самые важные за неделю 21-27.09.26

1️⃣ Диплом есть, работы нет: выпускники IT идут в продавцы и официанты 🎓
Начинающим IT-специалистам становится сложнее найти работу, а часть выпускников вынуждена уходить в сферу услуг. Одна из причин – ИИ забирает на себя все больше задач начального уровня, на которых раньше набирались опыта джуниоры.

2️⃣ «Яндекс» представил новую ИИ-модель с упором на русский язык 🇷🇺
Компания выпустила собственную модель, ориентированную на качественную работу с русскоязычными запросами. Развитие локальных моделей расширяет выбор для компаний, которым важны русский язык и отечественная AI-инфраструктура.

3️⃣ VK и «Яндекс» объединяют облачные активы – на кону треть российского рынка
VK и «Яндекс» создают крупного игрока на российском рынке облачных технологий, который может занять до трети рынка. На фоне роста ИИ объединение вычислительной инфраструктуры может заметно изменить расстановку сил в корпоративном IT.

4️⃣ Сбер готовит новое поколение человекоподобных роботов 🤖
Герман Греф анонсировал появление новых гуманоидных роботов собственной разработки Сбера. Интерес крупнейших компаний постепенно смещается от чисто программного ИИ к системам, способным действовать в физическом мире.

5️⃣ ИИ решил задачу Навье – Стокса, но ученые пока разбираются, как именно 🧠
OpenAI сообщила о решении с помощью AI-агентов сложнейшей математической проблемы, результат изложен на 166 страницах. Ученые изучают работу, поэтому окончательные выводы о значимости результата потребуют независимой проверки.

6️⃣ Amazon уволил IT-специалистов, а теперь зовет их обратно 🔄
После масштабных сокращений Amazon начал обращаться к бывшим сотрудникам с предложениями вернуться в IT-подразделения. История показывает, насколько сложно компаниям заранее оценить, какие компетенции действительно получится заменить автоматизацией.

7️⃣ ИИ-агент OpenAI самостоятельно взломал госпортал – власти усиливают защиту 🔐
После инцидента с автономным AI-агентом власти усиливают требования к кибербезопасности государственных систем. Чем больше свободы получают ИИ-агенты, тем важнее заранее ограничивать их права доступа и возможные действия.

8️⃣ «Яндекс» направил 7,5 млрд рублей на защиту от опасного ИИ 🛡
Компания вложила миллиарды рублей в технологии и инфраструктуру AI-безопасности. Масштаб инвестиций показывает, что контроль моделей становится отдельной статьей расходов при развитии мощных ИИ-систем.

Всех с пятницей! 👍

Разработчики презентуют ChatGPT-N:
– А теперь наш электронный мозг знает ответы на все вопросы!
Дерзкий журналист просит узнать у него где его папа?
Ответ:
– Ваш папа сейчас стоит в пробке на мосту "Золотые ворота" в Сан-Франциско.
– А вот и нет! Я только что разговаривал по спутниковому телефону с ним, он ловит рыбу на Карибских рифах!
– Молодой человек! Мужчина, с которым вы разговаривали по спутниковому, это очень давний друг вашей мамы. А папа ваш стоит в пробке на мосту в Сан-Франциско!

Рубрика "юмор по пятницам" 🤣

Искусственный интеллект компании OpenAI взломал австралийский государственный портал Medicare, предоставляющий статистику о системе медицинского страхования, сообщает Reuters.

Премьер-министр Энтони Албаниз назвал произошедшее «неприемлемым» и выразил главе OpenAI Сэму Альтману свою «крайнюю обеспокоенность».

Особое недовольство Албаниза вызвало то, что OpenAI слишком долго не информировала австралийское правительство. Взлом произошёл ещё в июне, однако власти узнали о нём только сейчас, в сентябре. ИИ-агент получил доступ к публичным и непубличным файлам системы страхования. При этом личная информация, по всей видимости, не была затронута, и отдельные люди не пострадали, заявил Албаниз.

По замыслу OpenAI, ИИ-программа должна была искать связанную со здравоохранением статистику. На нескольких австралийских правительственных сайтах она действовала так же, как действовал бы обычный пользователь, заявил вице-премьер Ричард Марлз. Однако на портале Medicare ИИ не обнаружил необходимую информацию в открытом доступе, после чего решил пойти другим путём.

«ИИ-агент нашёл способ обойти блокировки – он, так сказать, не хотел принимать „нет“ в качестве ответа», – заявил Албаниз. Сколько данных получил таким образом ИИ-взломщик, ещё устанавливается.

Неизвестно также, атаковал ли ИИ и другие сайты правительства Австралии. OpenAI сообщила, что во время внутренней проверки обнаружила активность на нескольких австралийских государственных сайтах: ИИ пытался найти правительственную статистику.

«При этом наши модели выполняли действия, которых мы не намеревались допускать», – заявил представитель компании.

Это полезно❗️
Вайб-спекинг: AI подключают к работе еще до того, как разработчик увидит ТЗ

Вайб-кодинг ускоряет написание кода. Но если разработчику передали плохо проработанные требования, скорость мало что исправляет: AI просто поможет быстрее реализовать не ту задачу.

В блоге INFOSTART.RU на Хабре предлагают посмотреть на предшествующий этап разработки – работу аналитика. Авторы называют этот подход вайб-спекингом: аналитик ведет диалог с AI и постепенно превращает исходную бизнес-идею в спецификацию с границами доработки, объектами системы, исключениями, рисками и критериями приемки.

В качестве примера в статье разбирается AI-агент «Эксперт по 1С» в MAKER-STUDIO, который знаком с рядом типовых конфигураций 1С. Ему можно поручить часть подготовительной работы:
🔹 разобраться, что уже есть в типовой конфигурации и какие у нее ограничения;
🔹 построить карту процесса с документами, регистрами, ролями и статусами;
🔹 подготовить черновик ТЗ с описанием as is / to be и критериями приемки;
🔹 предварительно определить затрагиваемые объекты, точки встраивания и риски;
🔹 составить позитивные и негативные сценарии для последующей проверки решения.

Показательный пример с «1С:Документооборотом». Задача – напоминать сотрудникам о незаполненных ежедневных отчетах, учитывать выходные и отсутствие на работе, а изменение реализовать через расширение.
Агент сначала определяет, какие необходимые механизмы уже присутствуют в типовой конфигурации, а каких не хватает. Затем предлагает архитектуру решения: где хранить список сотрудников, как запускать проверку, каким образом исключать отсутствующих и через какой штатный механизм отправлять уведомления.

Следом появляется то, чего нередко не хватает в первоначальных требованиях, – конкретные и проверяемые критерии приемки. Например, уведомление не должно уходить сотруднику в день полного отсутствия, повторный запуск задания не должен создавать дубли, а после сдачи отчета повторные напоминания должны прекратиться.
Но есть важное ограничение. AI знает типовую конфигурацию, а не реальную систему конкретного заказчика. Версия 1С, расширения, функциональные настройки и данные информационной базы могут заметно изменить предложенное решение.

Поэтому предлагается довольно практичный рабочий цикл: аналитик задает бизнес-цель и ограничения → AI собирает факты и предлагает каркас → аналитик проверяет результат и адаптирует его под процессы заказчика. Перед передачей ТЗ разработчику необходимо отдельно проверить объекты конфигурации, расширения, функциональные опции, допущения и критерии приемки.

📌 Вывод AIRu: Интереснее всего здесь меняется сама точка применения AI. Если подключать его до разработки, он может ускорять не код, а превращение бизнес-задачи в требования, которые можно проверить. Но ценность такого подхода напрямую зависит от качества контекста и от специалиста, который способен отличить факты о системе от убедительно сформулированных предположений.
Нам идея очень понравилась!👍

AIRu в VK
AIRu в MAX

Новое исследование: бизнес активно внедряет AI, но более 90% компаний не оценивали угрозы

AI уже глубоко встроен в работу российских разработчиков ПО. Но исследование AppSec Solutions и АРПП «Отечественный софт», опубликованное CNews, обнаружило заметный разрыв между масштабом внедрения и тем, как компании контролируют связанные с ним риски.

В исследовании участвовали более 50 членов ассоциации. Все опрошенные компании сообщили об использовании AI в бизнес-процессах, но базовые системы контроля его безопасности внедряют только 23%. Скорость внедрения AI примерно втрое опережает скорость выстраивания его защиты.

Компании используют сразу несколько классов AI-систем:
🔹 81% работают с большими языковыми моделями;
🔹 72% используют AI-ассистентов для написания кода;
🔹 61% применяют локальные языковые модели;
🔹 57% используют RAG;
🔹 44% работают с ML-моделями.

Есть еще одна цифра, которая заметно меняет масштаб разговора о безопасности.
72% опрошенных уже внедрили AI-агентов в корпоративный контур, то есть передали им часть действий, которые раньше выполнял человек. Среди основных рисков участники исследования называют утечки конфиденциальных данных, промпт-инъекции, утечки через RAG-системы, обход встроенных ограничений и атаки на цепочки поставок ML.

При этом картина с инцидентами выглядит на первый взгляд вполне спокойно.
69% компаний заявили, что не фиксировали атак, а подтвержденные атаки отметили 4% респондентов.
❗️Но более 90% участников вообще не проводили оценку AI-угроз. Представители AppSec Solutions обращают внимание, что атаки на AI могут не отображаться в привычной телеметрии: внешне взаимодействие с моделью может выглядеть как обычный запрос и обычный ответ.

Отдельная зона риска находится за пределами официально внедренных корпоративных систем. Сотрудники всех компаний из выборки пользуются внешними AI-сервисами: в 59% организаций такое использование назвали частичным, в 41% – массовым. В исследовании это связывают с «теневым AI», когда внешние модели используются без консолидированного контроля компании. Один из рисков здесь вполне практический – сотрудники могут отправлять в такие сервисы внутренние документы и другие чувствительные данные.
Проблема упирается и в компетенции. Среди организаций, которые назвали нехватку экспертизы главным барьером, 82% не имеют программы обучения безопасности AI. Авторы также выделяют средние ИТ-компании со штатом 100–500 человек как сегмент, где одновременно сосредоточены высокий потенциал применения AI и высокий риск.

📌 Вывод AIRu: Самый интересный результат исследования – не масштабы внедрения AI, а то, насколько далеко от них отстал контроль. AI-агенты уже работают в корпоративном контуре у 72% опрошенных, тогда как оценку AI-угроз проводили менее 10%, Карл! 😱
Похоже, именно этот разрыв компаниям теперь предстоит закрывать.

AIRu в VK
AIRu в MAX

Исследование: AI-модели ошибаются более чем в половине финансовых консультаций

AI все чаще используют для вопросов, где ошибка измеряется уже не качеством текста, а деньгами: налоги, ипотека, пенсионные накопления, инвестиции. Насколько надежны такие советы, решила проверить британская финтех-компания Saturn.

Как пишет Financial Times, 18 популярных AI-моделей протестировали на 121 вопросе о налогах, пенсиях, ипотеке, долгах и сбережениях. Каждый вопрос задавали пять раз, а всего исследователи проанализировали более 10 000 ответов.

Результаты оказались такими:
🔹 В среднем модели давали неверные ответы в 57% случаев.
🔹 На сложных вопросах доля ошибок в среднем доходила до 88%. Особенно плохо модели справлялись с задачами, где нужно было одновременно учитывать несколько налоговых правил и проводить расчеты.
🔹 Бесплатные модели ошибались чаще платных: 63% против 49%. Но и подписка сама по себе не гарантировала надежного результата.

Причем проблема не сводилась к небольшим погрешностям. Модели ошибались в расчетах, пропускали существенные финансовые риски, использовали устаревшие налоговые правила и ссылались на несуществующие нормы.
В одном из примеров Claude Haiku 4.5 неверно ответил на вопрос о пенсионном налогообложении. Следование такой рекомендации, по расчетам исследователей, могло привести к налоговым обязательствам на £17 500.

Особенно показательно, что подобными советами люди уже активно пользуются. В другом британском исследовании Capital One UK 13% опрошенных сообщили, что за последний год обращались к AI за информацией или советами по личным финансам. Столько же респондентов обращались за ними к родителям.
При этом результаты Saturn стоит интерпретировать аккуратно. Это исследование финтех-компании, а не независимая академическая работа, поэтому показатель 57% нельзя автоматически переносить на любые AI-системы и сценарии их использования. Но сами типы обнаруженных ошибок хорошо показывают ограничения моделей там, где ответ требует актуальных правил, точных расчетов и учета множества условий.

📌 Вывод AIRu: главный риск в таких сценариях – не очевидно неверный ответ, а убедительно сформулированная ошибка, которую пользователь принимает за экспертную рекомендацию. В корпоративных системах для финансов, налогов и других чувствительных областей AI разумно использовать вместе с проверенными источниками, контролем расчетов и верификацией критичных решений специалистом.

AIRu в VK
AIRu в MAX

Всех с пятницей! 👍