Post #25
55
Channel Public Channel
AI - Subscribers
- 1.2K
- Photos
- 71
- Videos
- 1
- Links
- 100
Showing posts older than #26 · Back to latest
Older Posts 17 shown
Post #23
53
RSA Conference 2024:
На этой неделе прошло крупное мероприятие в ИБ. Изучаем интересные анонсы:
* ArmorCode, компания-разработчик решения класса Application Security Posture Management (ASPM), интегрировала в свою платформу ИИ для корреляции уязвимостей и ускорения обработки дефектов.
* Checkmarx выпустила функции AI Security для защиты кода, который был сгенерирован с помощью LLM. И также добавила возможности авто-исправления уязвимостей.
* Cloud Security Alliance выпустил руководство для безопасного внедрения ИИ. Опубликованы три ключевых документа, с которыми обязательно должны ознакомиться директор по информационной безопасности и руководители направлений AI: “AI Organizational Responsibilities”, “AI Resilience” и “Principles to Practice”.
* Компания Protect AI запустила базу данных уязвимостей в ИИ/ML. По мнению компании, существующие базы уязвимостей CVE и NVD не закрывают потребности в информации об уязвимых ML-моделях и проблемах ИИ.
#ии #ai
На этой неделе прошло крупное мероприятие в ИБ. Изучаем интересные анонсы:
* ArmorCode, компания-разработчик решения класса Application Security Posture Management (ASPM), интегрировала в свою платформу ИИ для корреляции уязвимостей и ускорения обработки дефектов.
* Checkmarx выпустила функции AI Security для защиты кода, который был сгенерирован с помощью LLM. И также добавила возможности авто-исправления уязвимостей.
* Cloud Security Alliance выпустил руководство для безопасного внедрения ИИ. Опубликованы три ключевых документа, с которыми обязательно должны ознакомиться директор по информационной безопасности и руководители направлений AI: “AI Organizational Responsibilities”, “AI Resilience” и “Principles to Practice”.
* Компания Protect AI запустила базу данных уязвимостей в ИИ/ML. По мнению компании, существующие базы уязвимостей CVE и NVD не закрывают потребности в информации об уязвимых ML-моделях и проблемах ИИ.
#ии #ai
- 👍 1
Post #22
52
#ИИ NIST выпустил 4 новых проекта публикаций, которые должны быть опубликованы до 2 июня 2024 года:
- Профиль генеративного искусственного интеллекта AI RMF (NIST AI 600-1),
- Практика безопасной разработки ПО для генеративного ИИ (NIST SP 800-218A),
- Снижение рисков, связанных с синтетическим контентом (NIST AI 100-4), и -...
- План глобального взаимодействия по стандартам ИИ (NIST AI 100-5)
- а также программа GenAI challenge для улучшения оценок GenAI. Здесь: https://www.nist.gov/news-events/news/2024/04/department-commerce-announces-new-actions-implement-president-bidens
NIST Department of Commerce Announces New Actions to Implement President Biden’s Executive Order on AI Announcements include draft guidance documents, a draft plan for international standards, and a new measurement program opening for public comment. - Профиль генеративного искусственного интеллекта AI RMF (NIST AI 600-1),
- Практика безопасной разработки ПО для генеративного ИИ (NIST SP 800-218A),
- Снижение рисков, связанных с синтетическим контентом (NIST AI 100-4), и -...
- План глобального взаимодействия по стандартам ИИ (NIST AI 100-5)
- а также программа GenAI challenge для улучшения оценок GenAI. Здесь: https://www.nist.gov/news-events/news/2024/04/department-commerce-announces-new-actions-implement-president-bidens
- 👍 1
- 🔥 1
Post #21
56
Post #20
56
https://atlas.securityhub.ru/
MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems), это база знаний о кейсах, тактиках и техниках, применяемых злоумышленниками для атак на системы машинного обучения (МО). Матрица основана на реальных наблюдениях, исследованиях red teams и групп по безопасности, академических исследованиях. ATLAS создан по образцу фреймворка MITRE ATT&CK®, ее тактики и техники дополняют матрицу ATT&CK.
ATLAS позволяет исследователям ориентироваться в ландшафте угроз для систем машинного обучения. МО все чаще используется в различных областях. Количество уязвимостей в МО растет, и его использование увеличивает поверхность атаки в существующих системах. Матрица ATLAS была разработана для повышения осведомленности об угрозах МО и представлениях их в виде, знакомом исследователям безопасности.
На русском языке.
#mitre #framework
MITRE ATLAS™ (Adversarial Threat Landscape for Artificial-Intelligence Systems), это база знаний о кейсах, тактиках и техниках, применяемых злоумышленниками для атак на системы машинного обучения (МО). Матрица основана на реальных наблюдениях, исследованиях red teams и групп по безопасности, академических исследованиях. ATLAS создан по образцу фреймворка MITRE ATT&CK®, ее тактики и техники дополняют матрицу ATT&CK.
ATLAS позволяет исследователям ориентироваться в ландшафте угроз для систем машинного обучения. МО все чаще используется в различных областях. Количество уязвимостей в МО растет, и его использование увеличивает поверхность атаки в существующих системах. Матрица ATLAS была разработана для повышения осведомленности об угрозах МО и представлениях их в виде, знакомом исследователям безопасности.
На русском языке.
#mitre #framework
Post #19
55
Post #18
58
1711696129998.pdf10.9 MB
Databricks AI
Security Framework
(DASF)
#framework #ai
Security Framework
(DASF)
#framework #ai
Post #17
62
Post #16
56
Forwarded from Ассоциация ФинТех
🤖 Карта архитектуры экосистемы генеративного ИИ, разработанная Ассоциацией ФинТех при участии ООО «Ген ИИ», теперь доступна и в интерактивном формате по ссылке. В карте представлены как разработчики базовых генеративных моделей, так и поставщики инструментов и сервисов, которые используются для создания продуктов и решений на их основе. В карту включены и разработки глобальных игроков, и решения отечественных вендоров.
Интерактивная карта регулярно обновляется. Так, в последнем обновлении добавлены новые сервисы, а также категория отслеживания дипфейков.
У пользователей также появилась возможность скачать актуальный вариант карты в кратком и общем представлениях и предложить сервис для добавления в карту.
Интерактивная карта регулярно обновляется. Так, в последнем обновлении добавлены новые сервисы, а также категория отслеживания дипфейков.
У пользователей также появилась возможность скачать актуальный вариант карты в кратком и общем представлениях и предложить сервис для добавления в карту.
Post #12
50
Post #11
58
https://www.vedomosti.ru/technology/articles/2024/04/03/1029521-mintsifri-obsuzhdaet-s-otraslyu-sozdanie-edinogo-tsentra-bezopasnosti
#security #минцифры
#security #минцифры
Post #10
63
Lakera_AI_LLM+Security+Playbook_v2_.pdf4.5 MB
Lakera LLM Security Playbook Framework, Tools, Datasets
#book #framework #llm
#book #framework #llm
AI SecOps pinned «Предстоящие мероприятия по ИИ в России: 1. 27.05.2024 Форум "Цифровая экономика. Технологии доверенного искусственного интеллекта" https://ib-bank.ru/trust-ai/ #мероприятия #год_2024»
Post #8
62
Предстоящие мероприятия по ИИ в России:
1. 27.05.2024 Форум "Цифровая экономика. Технологии доверенного искусственного интеллекта" https://ib-bank.ru/trust-ai/
#мероприятия #год_2024
1. 27.05.2024 Форум "Цифровая экономика. Технологии доверенного искусственного интеллекта" https://ib-bank.ru/trust-ai/
#мероприятия #год_2024
Post #7
63
OWASP Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/
#security #llm #owasp
#security #llm #owasp
Post #6
73
Архитектура_экосистемы_генеративного_искусственного_интеллекта_участники.pdf1.9 MB
Архитектура экосистемы генеративного искусственного интеллекта от Ассоциации Финтех
#генИИ #архитектура
#генИИ #архитектура
AI SecOps pinned «Полезные ссылки на материалы по ИИ: 1. Национальный портал в сфере Искусственного интеллекта https://ai.gov.ru/ 2. Подборка инструментариев для проверки ИИ https://cyberorda.com/MlSecOps/ 3. AI Security карта рынка https://menlovc.com/perspective/security…»