🤖 8 уязвимостей в интеграции с Generative AI - чек-лист НФТ по безопасности для ТЗ 🤖

Когда вам придётся писать требования на разработку системы с AI-интеграциями, то НФТ по безопасности станут одними из главных.

Их важно учесть, чтобы:
✔️ спроектировать корректные алгоритмы работы системы и точки контроля
✔️ писать системные промпты, которые будут лежать "под капотом" системы
✔️ автоматизировать процессы пользователей без ошибок и неожиданных действий
✔️ защищать персональные данные, секреты и конфиденциальную информацию
✔️ настроить логирование, мониторинг и реакцию на инциденты, связанные с использованием AI

Собрала для вас чек-лист из 8 уязвимостей, которые надо учитывать в ТЗ и при проектировании сценариев в системах, где есть интеграции с AI 🤖

#AI_for_analysts #ИнтеграцииGA