Коллеги из RadCoop поделились интересным документом о регулировании ИИ на фин рынках "Методические рекомендации Банка России по обеспечению
информационной безопасности при разработке и применении
искусственного интеллекта на финансовом рынке":

https://www.cbr.ru/Crosscut/LawActs/File/12204

В таких документах очень интересно читать Глоссарии:

галлюцинации ИИ – результат генерации выходных данных, которые содержат бессмысленные, некорректные или ошибочные суждения, которые могут выглядеть правдоподобными;
дрейф данных – изменение характеристик и свойств данных со временем, которое может привести к снижению точности и эффективности моделей ИИ, основанных на таких данных, а также некорректным выходным данным и решениям;
прямое внедрение запроса – вредоносный запрос непосредственно к модели ИИ, в том числе через различные интерфейсы взаимодействия;
непрямое внедрение запроса – запрос, инициирующий обращение модели ИИ к внешним источникам, которые могут контролироваться нарушителем (веб-сайты, файлы и прочее);
«отравленный» набор данных – набор данных, подвергнутый умышленной модификации, использование которого влечет нарушение функционирования модели ИИ.