Привет, коллеги! На этой неделе ИТ-мир бурлит: от массового поиска уязвимостей нейросетями до новых барьеров для разработчиков из-за регулирования трафика. Мы собрали для вас три самых громких события и попросили наших экспертов поделиться своим мнением ⤵️

🔵 OpenAI запустила инициативу Patch the Planet: ИИ уже нашёл сотни уязвимостей в ключевых open-source проектах. Новая программа должна ускорить поиск и исправление ошибок в Python, Go, cURL и других проектах, от которых зависит значительная часть современного программного обеспечения

Комментирует Илья, руководитель направления ИИ

— Насколько полезна или опасна данная инициатива OpenAI для российского рынка ПО?

«На текущем этапе такая инициатива ни полезна, ни опасна для отечественного рынка. В программе участвуют исключительно зарубежные open-source проекты (с открытым исходным кодом), российские проекты и библиотеки не задействованы и пока не планируют участвовать. Однако это важный сигнал к действию: инициатива показывает, что будущее безопасности и сопровождения ПО лежит в области ИИ-агентов, автоматического поиска и устранения уязвимостей. Российский ИТ-сектор может начать развивать собственные решения в этой области, чтобы не оказаться в ситуации технологической зависимости в вопросах кибербезопасности.»

=======================
🔵«Солар» и УЦСБ: 40% компаний отмечают критичные риски генеративного ИИ для безопасности приложений

Комментирует Илья, руководитель направления ИИ

— Какие решения позволят безопасно масштабировать гибридные модели в критически важных отраслях?

«Единый корпоративный шлюз для всех обращений к ИИ: все запросы проходят через одну точку, которая логирует, фильтрует и маршрутизирует. Это дает полную видимость того, кто и что передает в модель.

Автоматическая анонимизация перед отправкой: специальная NER-модель вырезает личные данные и заменяет их заглушками до того, как запрос уходит во внешнюю модель. После получения ответа данные восстанавливаются.

Маршрутизация по уровню критичности: конфиденциальные запросы направляются в локальную модель, все остальные — во внешнюю. Это позволяет не отказываться от мощных внешних моделей там, где это безопасно, и не рисковать там, где это критично.»

========================
🔵 Программисты столкнулись с проблемами в разработке из-за ограничений VPN-трафика.

Комментирует Людмила, руководитель отдела Mobile

— Как можно решить такие проблемы?

«Для того чтобы подстраиваться под изменения и быстро реагировать на них, компаниям надо постоянно следить за изменениями законов, связанных с VPN. Существуют VPN, которые сертифицированы государством — можно использовать их.

Некоторые организации переходят на обычные сервисы. Это и возможность работать из любой точки без ограничений, и уменьшение расходов на инфраструктуру, и быстрый рост проектов без дополнительных расходов на оборудование. Но здесь важно помнить о безопасности и контроле доступа к ресурсам — особенно при использовании публичных (обычных) сервисов.»