С 23 по 26 августа пройдет SOUPS 2026 (Symposium on Usable Privacy and Security), объединяющий экспертов в области взаимодействия человека с компьютером, информационной безопасности и психологии.
👀 Один из докладов посвящен вопросу: как пользователи оценивают существующие коммуникации в области безопасности и конфиденциальности? Препринт здесь.
Исследователи опросили 21 человек в США и выяснили, что большинство людей не читают политики конфиденциальности, описания безопасности или документацию. Вместо этого они судят о надежности сервиса по косвенным признакам:
▪️ насколько известна компания;
▪️ насколько популярен сервис;
▪️ пользуются ли им друзья и коллеги;
▪️ вызывает ли интерфейс ощущение доверия.
Если возникают сомнения, пользователи чаще отказываются использовать ИИ для работы с конфиденциальной информацией, чем пытаются разобраться в юридических документах.
При этом участники исследования достаточно четко сформулировали, какой прозрачности они ожидают. Вместо длинных политик они хотят:
▪️ безопасные настройки по умолчанию;
▪️ возможность получить более подробную информацию только при необходимости;
▪️ понятные сведения о том, какие данные собираются и как используются;
▪️ независимые оценки и сертификацию, которым можно доверять.
Авторы рекомендуют проектировать интерфейсы так, чтобы безопасность была обеспечена по умолчанию, предлагая при этом дополнительную детализацию по запросу. Такой подход снижает когнитивную нагрузку и помогает избежать ложного ощущения безопасности, которое может возникать при большом количестве настроек.
Также обращают внимание на то, что сегодня требования к прозрачности ИИ существенно различаются между странами. AI Act устанавливает обязательные требования к прозрачности для отдельных категорий ИИ-систем, тогда как многие другие международные инициативы, включая Singapore Model AI Governance Framework и OECD Hiroshima AI Process Reporting Framework, носят рекомендательный характер.
При этом большинство существующих требований сосредоточено на технической документации, управлении рисками и отчетности для регуляторов, а не на информации, понятной обычному пользователю
По мнению исследователей, следующим этапом развития регулирования должны стать обязательные механизмы прозрачности, ориентированные на потребителя:
▪️стандартизированные и сопоставимые раскрытия информации о работе ИИ;
▪️независимая сертификация, которой можно доверять;
▪️единые сигналы безопасности, понятные пользователям.
Одновременно регуляторам предстоит бороться с явлением, которое авторы называют transparency washing, т.е. созданием ложного ощущения прозрачности с помощью расплывчатых обещаний, собственных «значков доверия» без независимой проверки или интерфейсов, которые побуждают пользователя раскрывать больше данных, скрывая при этом важные условия их обработки.
В программе конференции также исследования о совместном использовании устройств семьями, защите уязвимых групп пользователей, борьбе с цифровым мошенничеством, кибербезопасности и ИИ, уведомлениях о конфиденциальности, разрешениях и маркировке.
Про еще один доклад в следующем посте.
#UXWatch
————
@pattern_ai | AI GDPR Navigator