ИИ и UX здорового человека. Чекер права и законов в UX

Весь этот хайп автоматизации до ужаса переоценен, и вот почему: люди, которые рассуждают, вряд ли когда-то участвовали в проектах автоматизации в крупных бизнесах. Метрики автоматизации труда, пилоты замены кассиров/продавцов, магазины без сотрудников, конечно, демонстрируют рост метрик, но эти метрики влияют на другие метрики — и совершенно не факт, что позитивным образом.

Приведу пример из моей сложной и богатой биографии. Вы заменили в «Пятерке» кассиров на автоматы, метрика «Очередь» упала, выросли метрики NPS. Хорошо же? А знаете, что еще выросло? Метрика churn и воровства из зала, которая реально влияет на товарооборот и влияет на бабки. Тогда вы выводите людей уже на должность следить за кассами самообслуживания, чтобы не воровали, ну и так далее. Все это в литературе давно изучено и описано, менеджеры не из UX об этом знают прекрасно, есть поговорки про «иронию автоматизации».

Мой тезис заключается в том, что использование новой технологии дает наиболее сильный эффект, когда создает возможности, которых никогда не было, предлагая принципиально новые решения, а не автоматизируя старые роли и функции. Банкомат не стал заменой кассира, сидящего за окошком круглые сутки, а открыл совершенно новый способ оказывать базовую банковскую услугу — причем в любое время и в других контекстах.

Сегодня я готов показать пример полугодовой работы над этим.

Как это работает? Команда юристов на мировых рынках (Алексей Воробей, автор «Законов Мура», фаундер многих стартапов, и Михаил Макаров, Product Compliance Counsel) и я, как приглашенный UX-эксперт, работали над задачами автоматизированной проверки нарушений законов для экранов пейволла - тогда, когда приложение предлагает заплатить/оплатить товар или услугу. Этот экран - традиционное поле для манипуляций, темных паттернов, правового беспредела и способов нарушения законов о защите прав потребителей. В рамках работы по а) распознаванию паттернов, б) анализу конкретных судебных решений, в) материалов дел и г) юридических улик ИИ выдает ответ-оценку и проверку интерфейса: отчет с рисками для той или иной судебной юрисдикции, указывает нарушения, потенциальные штрафы, находит соответствующую юридическую практику.

Что в этом инновационного? То, что это внедрение НЕ для автоматизации проверки, а использование инструментов автоматизации для создания принципиально новой возможности проверять макеты до релиза или по-новому проверять работу приложения. Это добавление в продуктовую команду новой роли, которой раньше не было, также как до этого не было роли и дизайнера, а все интерфейсы создавали разработчики.

Вы создаете не синтетических респондентов, вы создаете автоматизированную роль для проверки и участия в уже существующем конвейере разработки (добавляя юридическую проверку качества, правовую инженерию качества, если угодно).
Если хотите, это аэродинамическая труба или манекен для краш-тестов — ну вот раньше их не было, а теперь они появились.

https://applaw.dev/

Можно проверить подобное решение самостоятельно.

P.S. Кстати, те, кто говорят, что тестировщиков заменят - вряд ли понимают какой геморрой подбирать вручную бесконечные скриншоты, улики и факты нейронке, чтобы она не галлюционировала. Профессия Evaluation Engineer на подходе, и, вот в нее, в отличие от промт-инженеров, я верю