TGViewer
Channel Public Channel
ML&|Sec Feed

ML&|Sec Feed

@mlsecfeed

Feed for @borismlsec channel

author: @ivolake
Subscribers
1.39K
Photos
1.3K
Videos
89
Links
2K

Showing posts older than #1439 · Back to latest

Older Posts 19 shown
Post #1438 140

Forwarded from Innovation & Research

Meta* опубликовала работу о воплощённых AI-агентах, способных действовать в физическом и виртуальном мирах

В отличие от чат-ботов, воплощённые агенты имеют форму — от VR-аватаров до умных очков и роботов. Их цель — действовать автономно, понимать людей и мир, прогнозировать возможные последствия и помогать в реальных задачах.

В центре архитектуры — «модель мира» (world model), которая заменяет генерацию текста или пикселей на предсказание действий и состояний в абстрактном пространстве. Это позволяет моделям создавать планы, обучаться без надзора со стороны человека и действовать в реальном времени.

Разработаны 2 типа таких моделей: модели первого типа распознают динамику, объекты, причинно-следственные связи, а второго — цели, эмоции и убеждения людей.

В работе представлены 3 класса агентов:

• виртуальные — аватары в VR/AR, NPC, ассистенты;
• носимые — AI в очках, способный понимать контекст ситуаций и подсказывать пользователю информацию в реальном времени;
• робототехнические — физические агенты, способные к манипуляциям с объектами и обучению на месте.

Существенные новации — эпизодическая память, которая необходима для долгосрочного удержания контекста, переход от генеративных моделей к предиктивным,например, V-JEPA 2-AC, и бенчмарки для проверки —WorldPrediction, CausalVQA и IntPhys2.

Исследование затрагивает и этические риски: такие агенты могут собирать личные данные и вызывать ложное чувство, будто они «понимают» пользователя. Meta* считает, что решение этих проблем должно быть в фокусе внимания исследователей для будущего развития технологии.

*организация запрещена на территории России и признана экстремистской

#news #AI #бигтехи #роботы

Препринт исследования
Post #1437 144

Forwarded from AISecHub

Red Teaming AI Red Teaming - https://arxiv.org/pdf/2507.05538v1

Red teaming has evolved from its origins in military applications to become a widely adopted methodology in cybersecurity and AI. In this paper, we take a critical look at the practice of AI red teaming. We argue that despite its current popularity in AI governance, there exists a significant gap between red teaming’s original intent as a critical thinking exercise and its narrow focus on discovering model-level flaws in the context of generative AI. Current AI red teaming efforts focus predominantly on individual model vulnerabilities while overlooking the broader sociotechnical systems and emergent behaviors that arise from complex interactions between models, users, and environments. To address this deficiency, we propose a comprehensive framework operationalizing red teaming in AI systems at two levels: macro-level system red teaming spanning the entire AI development lifecycle, and micro-level model red teaming. Drawing on cybersecurity experience and systems theory, we further propose a set of recommendations. In these, we emphasize that effective AI red teaming requires multifunctional teams that examine emergent risks, systemic vulnerabilities, and the interplay between technical and social factors.

#AIRedTeaming #RedTeaming #AIsecurity #AIgovernance #SystemicRisks #EmergentBehavior #SociotechnicalSystems #ModelVulnerabilities #AIThreatModeling #MacroRedTeaming #MicroRedTeaming #CyberSecurity #ResponsibleAI #AIrisks #AdversarialTesting #AIresilience #SystemSecurity #MultidisciplinaryAI #AIdevelopment #AIoversightAsk
  • ❤ 1
Post #1436 144

Forwarded from AISecHub

Autonomous AI-based Cybersecurity Framework for Critical Infrastructure - https://arxiv.org/pdf/2507.07416

Critical infrastructure systems, including energy grids, healthcare facilities, transportation networks, and water distribution systems, are pivotal to societal stability and economic resilience. However, the increasing interconnectivity of these systems exposes them to various cyber threats, including ransomware, Denial-of-Service (DoS) attacks, and Advanced Persistent Threats (APTs). This paper examines cybersecurity vulnerabilities in critical infrastructure, highlighting the threat landscape, attack vectors, and the role of Artificial Intelligence (AI) in mitigating these risks. We propose a hybrid AI-driven cybersecurity framework to enhance real-time vulnerability detection, threat modelling, and automated remediation. This study also addresses the complexities of adversarial AI, regulatory compliance, and integration. Our findings provide actionable insights to strengthen the security and resilience of critical infrastructure systems against emerging cyber threats

#CriticalInfrastructure #AICybersecurity #AutonomousAI #ThreatDetection #RansomwareDefense #DoSProtection #APTDetection #AIinSecurity #CyberResilience #AdversarialAI #AIFramework #AutomatedRemediation #SecurityAutomation #CyberThreats #RegulatoryCompliance #AIThreatModeling #InfrastructureSecurity #RealTimeDetection #CyberDefense #AIIntegration
  • ❤ 1
Post #1435 194

Forwarded from Security Vision

❤️ Как ИИ-инструменты работают в кибербезопасности

В последние годы всё больше отечественных компаний делают ставку на искусственный интеллект для защиты от киберугроз — тренд, идущий в ногу с мировыми тенденциями.

➡️ В новой статье в блоге выделили три группы ИИ, рассмотрели примеры применения и то, как устроена логика их работы.
  • 🔥 2
Post #1434 173

Forwarded from AlexRedSec

А вот ещё один новый ресурс, посвященный безопасности ИИ-агентов, от активного участника проектов OWASP🧠

Agentic Security Hub включает в себя:
➡️Описание ключевых компонентов ИИ-агентов
➡️Описание и сравнение архитектур ИИ-агентов.
➡️Реестр угроз с описанием векторов атак.
➡️Реестр защитных мер.
➡️Опросник по стандарту OWASP AISVS (AI Security Verification Standard).
➡️Опросник самооценки по OWASP Securing Agentic Applications guide для формирования модели угроз и рекомендаций по защитным мерам.
➡️Маппинг мер фреймворка NIST AI RMF на OWASP AISVS.
➡️База уязвимостей Agentic Vulnerability Database (AVD) – правда пока раздел в разработке и в базе есть только три записи про уязвимости ИИ-агентов.

Все разделы связаны друг с другом кросс-ссылками, а часть имеет также инструменты для визуализации.
Также есть библиотека полезных ресурсов, содержащая на текущий момент ссылки на 219 различных документов по теме безопасности ИИ.

#ai #framework #controls #aisvs #archirecture #owasp #avd
  • ❤ 1
  • 👍 1
Post #1433 185

Forwarded from GitHub Community

LLM Reasoners — это библиотека, разработанная для улучшения способности LLM выполнять сложные вычисления с использованием передовых алгоритмов.

♎️ GitHub
  • 🔥 2
Post #1431 187

Forwarded from EFEMERA: AI news (Вова Казаков)

Исследование: предложен новый метод интерпретации работы нейросетей

✦ Goodfire разработала Stochastic Parameter Decomposition (SPD) — новый способ изучать нейросети
✦ SPD позволяет разбивать параметры нейросетей на отдельные компоненты, чтобы понять роль каждой из них
✦ Метод основан на удалении частей сети и оценке их влияния на результат
✦ Алгоритм работает по принципу «игры в Джэнга»: удаляет части сети, пока поведение модели не изменится
✦ SPD помогает оценить важность каждого компонента и изучить конкретные функции нейросети
✦ Исследователи рассматривают возможность создания моделей, которые изначально строятся из понятных и объяснимых компонентов
✦ В тестах SPD точно определял, как работают внутренние механизмы нейросетей
✦ Полный тех. отчёт (pdf) и библиотека на GitHub
✦ Прототип метода для экспериментов (vpn)

@EF9MERA

Источник
  • ❤ 1
Post #1430 167

Forwarded from Lazy Cyber Security

Заинтересовали меня MCP сервера для LLM
Заглянул в официальном репозитории, но под свои задачи — ничего стоящего не нашёл.

Возник вопрос:
А что там с offensive MCP-серверами?

Порылся в интернетах и собрал небольшой список:
Offensive MCP Servers List

Пока сам не тестировал, но в планах обязательно попробовать.
Буду рад реквестам и комментариям.
Post #1429 153

Forwarded from Борис_ь с ml

У верблюда два горба, потому что жизнь - борьба...
#иб_для_ml

Так возможно сказал Николас Карлини, так как сегодня вышла статья с его соавторством "🐫 Defeating Prompt Injections by Design". Остальной авторский коллектив этой статьи тоже серьезный - исследователи из Google и ETH Zurich.


Система защиты CaMeL

В этой работе представлена система защиты ИИ-агентов от промпт-атак CaMeL (расшифровывается как CApabilities for MachinE Learning). Основывается она на двух горбах LLM (Priveleged и Quarantined) и специальном интерпретаторе языка Python. По сути, эта методика вытаскивает логику действий агента в явную плоскость, заставляя программу "написать свой код", к которой благодаря кастомному интерпретатору применятся все ограничения безопасности.

Область применения и ограничения
CaMeL, в первую очередь, нацелен на предотвращение несанкционированных действий ИИИ-агентов, которые могут привести к утечкам данных, или использованию данных из ненадежных источников. Однако он совершенно не предназначен для защиты от атак, не влияющих на порядок действий агента или поток данных (например, от фишинга, или изменения содержания сгенерированного текста). Поэтому как компонент системы безопасности ИИ-агентов это решение может быть полезно, но не выполнит ее роль полностью.


Алгоритм работы CaMeL
1.
Поступление запроса пользователя: Пользователь формулирует запрос на естественном языке, например, "Отправь Бобу документ, который он просил на прошлой встрече".

2. Генерация кода: Privileged LLM (P-LLM), которой доверяют, берет запрос пользователя и генерирует псевдо-код на Python, который выражает намерения пользователя. Важно, что P-LLM видит только запрос пользователя, но не данные из ненадежных источников (например, содержимое файлов).

3. Интерпретация кода: Созданный код обрабатывается CaMeL Interpreter, который:
— Строит граф потока данных (data flow graph), отслеживая зависимости между переменными.
— Проверяет политики безопасности на основе capabilities (некоторых метаданных, присвоенных различным объектам информации), определяя, какие действия разрешены.
— Выполняет код, вызывая инструменты (например, для отправки email) или блокирует выполнение, если нарушается политика безопасности.
— Использует Quarantined LLM (Q-LLM) для обработки ненадежных данных, таких как извлечение информации из текста.

4. Применение политик безопасности: перед выполнением каждого инструмента агента, CaMeL Interpreter применяет политики безопасности, основанные на capabilities данных. Если политика нарушена, выполнение блокируется, и пользователю может быть запрошено подтверждение.

Что такое capabilities и security policies?
Capabilities — это метаданные (теги), присваиваемые каждому отдельному объекту данных для описания контроля и взаимосвязей потока данных. Capabilities определяют, кому разрешено читать данную часть данных или ее происхождение. Перевести на русский можно как "метки доступа". В статье не указывается их полное содержание, но раскрываются два главных элемента:
— разрешенные читатели (public, или перечень конкретных пользователи),
— происхождение данных (user, camel, inner tool source). С user понятно, camel - порожденные кодом данные, inner tool source - поступившие из инструмента данные, например отправителя полученного email сообщения.

Security policies - код функций на python, в которых реализуются политики безопасности. Например, если данные происходят из недоверенного источника, ответ прерывается. Или если у пользователя нет разрешения на запрошенную информацию, ответ прерывается.


В общем, конечно же интересно увидеть, что будет дальше, так что продолжим следить за работами этих ученых)
Post #1427 125

Forwarded from GigaChat

POLLUX: бенчмарк для оценки творческих способностей AI 🤖

Обычные бенчмарки типа MMLU — это ЕГЭ для нейросетей: выбери правильный ответ из списка. В реальном применении мы используем AI для написания текстов, генерации идей и переводов

POLLUX — первый экспертный бенчмарк для оценки генеративных способностей на русском от специалистов Сбера:

➡️2 100 уникальных заданий (написаны экспертами с нуля)
➡️152 типа задач — от художественных текстов до анализа кода
➡️66 критериев оценки
➡️471 тысяча экспертных оценок
➡️обученные AI-судьи для автоматической оценки

Мы протестировали GPT-4o, Claude 3.5, LLaMA и другие. Оказалось, что даже топовые модели пока уступают людям в творчестве, а выбирать их нужно под конкретные задачи, а не по общему рейтингу

📌Проект открытый — читаем про него тут
📌Пробуем демо здесь
Post #1426 133

Forwarded from Timur Nizamov

Говори как хакер.pdf2 MB
Презентация с конференции Conversations, где мы рассказали о нашем новом проекте с уязвимыми агентами
Post #1424 144
Post #1423 127

Forwarded from AI Attacks

Иногда есть проблемы с обьяснением обеспечения безопасности моделей, особенно, если модели будут частью продукта информационной безопасности.
Проще всего рисовать схемы))

Особенно, если есть сервисы, которые помогают все красиво разместить и отредактировать,
а не биться над каждой стрелочкой.
  • 🔥 1
Post #1421 125

Forwarded from ИБ в "Законе"

📣 01.07.2025 г. опубликованы Проекты документов, поступивших на рассмотрение в ТК 362 от:

ТК 164 "Искусственный интеллект"

⚖ ГОСТ Р Искусственный интеллект в критической информационной инфраструктуре. Общие положения
  • 🎉 1
Post #1420 148

Forwarded from Russian OSINT

🤖ИИ-платформы для автоматизации и MCP
▫️ n8n — гибкая платформа для автоматизации рабочих процессов, ориентированная на технических специалистов. Позволяет создавать сложные многошаговые ИИ-агенты, интегрировать сотни приложений через визуальный редактор или с помощью кода на Python/JavaScript. Поддерживает как самостоятельный хостинг для полного контроля над данными, так и облачное развертывание для удобства использования.
▫️ N8N A.I. Assistant by Nskha — ИИ-ассистент на базе ChatGPT для работы с n8n.
▫️ n8n Community Forum — официальный форум поддержки n8n с участием инженеров и активных пользователей для обсуждения, обмена готовыми сценариями и оперативного решения вопросов по деплою.
▫️ OpenRouter.ai — платформа, предоставляющая единый API-интерфейс к широкому спектру больших языковых моделей (LLM) от различных провайдеров, включая OpenAI, Google, Anthropic и других.
▫️ OWL (Optimized Workforce Learning) — фреймворк для взаимодействия нескольких агентов и автоматизации реальных задач на базе CAMEL-AI. Поддерживает Model Context Protocol, выполнение кода, анализ документов, автоматизацию браузера и мультимодальную обработку.
▫️ Cursor-Free-VIP — утилита для автоматического сброса MachineID в Cursor AI, позволяющая обойти ограничения пробного доступа.
▫️ Open Deep Research — инструмент с открытым исходным кодом, который имитирует эксперимент OpenAI Deep Research. Использует Firecrawl.
▫️ AI Agents for Beginners — курс из 11 уроков от Microsoft, раскрывающий основы построения ИИ-агентов. Включает примеры кода на Python и поддерживает Azure AI Foundry, Semantic Kernel и AutoGen.
▫️ Model Context Protocol servers (GitHub) — крупный официальный каталог MCP-серверов на Github с возможностью фильтрации и быстрого поиска по проектам. Включает как эталонные реализации, так и серверы от сообщества.
▫️ Awesome MCP Servers — тематическая подборка MCP-серверов с переводом описаний на несколько языков и ссылками на официальные ресурсы.
▫️ Playwright MCP — MCP-сервер от Microsoft для автоматизации браузера на базе Playwright. Позволяет LLM выполнять действия на веб-страницах через структурированные снимки доступности, что устраняет необходимость в использовании скриншотов или визуальных моделей.
▫️ Awesome-MCP-Servers — курируемый список серверов, реализующих Model Context Protocol (MCP), который позволяет ИИ-моделям безопасно взаимодействовать с локальными и удаленными ресурсами. Список включает как готовые к использованию, так и экспериментальные решения, и является ценным ресурсом для разработчиков ИИ-агентов.
▫️ MCP-Security-Checklist — полный контрольный список по безопасности для инструментов, использующих Model Context Protocol (MCP). Разработан командой SlowMist и охватывает защиту серверов, клиентов, взаимодействие с LLM и сценарии с несколькими MCP.
▫️ GhidraMCP — сервер Model Context Protocol для интеграции Ghidra с LLM. Позволяет проводить декомпиляцию и анализ бинарных файлов, просматривать методы, классы и импорты, а также автоматически переименовывать элементы через API.
▫️ mcp-containers — коллекция контейнеров для экспериментов с Model Context Protocol (MCP). Упрощает развертывание и интеграцию ИИ-моделей в различных средах, предоставляя готовые к использованию образы Docker.
▫️ Pipedream MCP — сервис интеграции MCP с более чем 2700 API и 10 000 инструментами для автоматизации и обмена данными между приложениями.
▫️ Zapier MCP — инструмент для интеграции MCP с более чем 7000 сервисами через платформу Zapier, позволяющий создавать автоматизированные рабочие процессы и давать ИИ-агентам возможность выполнять реальные задачи.
▫️ Smithery — каталог из более чем 7000 MCP-серверов, сгруппированных по категориям. Позволяет искать и оценивать инструменты по рейтингу и тегам.
▫️MCP.so — поисковик по популярным MCP.

⚡️Больше полезной информации для исследователей в Лаборатории Russian OSINT

✋ @Russian_OSINT
Older posts →
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →