Дизайнер интерфейсов как субъект AI-комплаенса: вы не только проектируете интерфейсы — вы формируете риски

Когда говорят об «AI-комплаенсе», обычно думают об юристах, разработчиках или CTO, но legal знания дизайнеров интерфейса вашего продукта помогут уменьшить риски штрафов и сэкономить на изменениях при разработке проекта. Сделать со старта всегда проще….

По AI Act Deployer — это физическое или юридическое лицо, государственный орган, агентство или другая структура, использующая ИИ систему под своим контролем, за исключением личного непрофессионального использования (Статья 3(4), Recital 13 EU AI Act).

Cмотрим на примерах, как UX/UI-решения влияют на соблюдение закона:
- скрытие AI-функций нарушает прозрачность (статья 50 EU AI Act): пользователь должен понимать, что взаимодействует с ИИ.
- системы ИИ, которые применяют преднамеренно манипулятивные или обманные методы (CTA или UX-паттерны) могут быть отнесены к запрещённым практикам (статья 5 EU AI Act).
- High-risk ИИ без контроля человека нарушает закон (гл. 2, ст. 26–29)
Пример: если организация развёртывает чат-бот на чувствительные темы и не говорит, что это ИИ — это нарушение даже, если вы не писали код.

Разберем некоторые требования закона:
1️⃣ Прозрачность (ст. 50 EU AI Act)
Пользователь должен ясно понимать, что он взаимодействует с ИИ, каковы его возможности и ограничения.
UI-формулировки:
🔹На старте общения с ИИ:
"Этот чат управляется искусственным интеллектом."
"Вы разговариваете с автоматизированной системой, а не с человеком."
🔹 В кнопках и действиях:
"Спросить ИИ" вместо "Получить помощь"
"Сгенерировать с помощью AI" вместо просто "Создать"
🔹В описании функций:
"Эта функция использует AI для подбора рекомендаций. Алгоритмы могут ошибаться."

2️⃣ Предотвращение манипулятивного UX (ст. 5 EU AI Act)
Проверить, что:
- пользователь информируется о возможных рисках/ошибках/ограничениях
Пример: "Продолжить без чтения" — не ок.
- есть ли отдельный шаг согласия на использование AI или обработки данных.
- варианты выбора оформлены равнозначно, н
- нет "pre-checked" чекбоксов без объяснений
- подтверждение согласия — явно, а не по умолчанию
Примеры: всплывающее окно согласия "ОК" (без объяснения, к чему согласие) заменить на "Согласен на использование ИИ-советника".
Автогенерация контента "Создать" (неясно, человек или AI) заменить на "Сгенерировать с помощью ИИ".
Рекомендации при выборе продукта "Лучший выбор" (на основе AI) заменить на "Рекомендовано алгоритмом — подробнее".

3️⃣ Контроль и надзор (ст. 13, 14, EU AI Act)
В системах высокого риска должен быть понятный способ обратиться к человеку, отказаться от ИИ или подать жалобу.
Примеры формулировок:
- "Не помогло? Поговорить с оператором"
- "Вы можете отключить автоматическое принятие решений в настройках."
- "Жалоба на работу AI — нажмите здесь"
-"Этот ответ был сгенерирован автоматически. Проверьте достоверность."

Помните, что формулировка, стиль и оформление "каких-то" кнопок - юридически значимы.
#UXWatch
@pattern_ai