Январский доклад OECD честно показывает, что надзор за ИИ отстаёт от технологической реальности:
1️⃣ ИИ развивается быстрее, чем обновляются регуляторные рамки. Модели сложны, плохо объяснимы, динамически дообучаются, могут работать с высокой степенью автономии. Проверять такие системы используя старые подходы всё труднее.
2️⃣Непрозрачность экосистемы. Регуляторы часто не знают, где именно и как используется ИИ, нет полной картины внедрения ИИ в финсекторе, а ключевые элементы (модели, инфраструктура, данные) у третьих лиц и BigTech-провайдеров, которые часто вне прямого надзора.
3️⃣Требования "объяснимости, справедливости, надежности" есть на бумаге, а в жизни сложно проверить модели, найти нужные решения, непонятно, как именно реализовывать «надзор человека» в разных сценариях.
4️⃣Правовая неопределённость из-за того, что новые ИИ-акты и требования наслаиваются на существующие. Как итог, тормозится внедрение ИИ, повышаются комплаенс-риски, инвестиции в ИИ становятся менее предсказуемы.
👀Что предлагают:
▪️разъяснять, как применять существующие требования к продвинутым ИИ-моделям;
▪️избегать чрезмерно предписывающего регулирования;
▪️усиливать диалог с индустрией;
▪️использовать песочницы, live-тестирование ( пример UK FCA AI Live Testing), эксперименты.
Пример, как Европейский центральный банк активно внедряет ИИ через SupTech Hub ECB (изучает 40+ GenAI use cases, использует ИИ в повседневной работе супервизоров):
▪️Athena- для перевод и анализ надзорных документов с использованием текстового анализа;
▪️Agora - позволяющая запрашивать данные из хранилищ данных, используя естественный язык, переведенный в код с помощью ИИ;
▪️Virtual Lab - разработка и совместная работы в области машинного обучения;
▪️Medusa - помощь в составлении и сравнительной оценке результатов надзорных проверок;
▪️Heimdall - автоматическое проведение процедур оценки соответствия требованиям.
▪️Delphi - обработка естественного языка (NLP) для интеграции индикаторов рыночного риска и информации из новостных сообщений в единую веб-платформу с удобным пользовательским интерфейсом для банковских надзорных органов.
📌 Обзоры отчетов прошлого года в посте "AI и финансовый сектор"
Пост "НейроUX в банках против ваших интересов" и подборка статей
#UXWatch
————
@pattern_ai