ИИ-платформа "внезапно" детский сервис?

Вы точно не создаете продукт для детей? Владельцы Imgur (компания MediaLab) отнеслись к такому вопросу достаточно халатно, за что получили штраф на £247 590 от британского регулятора ICO за нарушения приватности детей.

Imgur - онлайн-сервис загрузки, хранения и обмена пользовательского контента (фото, мемов) в том числе сгенерированных ИИ.
В условиях использования Imgur было указано, что дети младше 13 лет могут пользоваться платформой только под присмотром родителей.

👀 ICO установил, что сервис:
▪️ не проверял возраст пользователей;
▪️ обрабатывал данные детей младше 13 лет без надлежащего законного основания (включая отсутствие подтверждённого согласия родителей);
▪️ не провёл Data Protection Impact Assessment ( риски, связанные с rконфиденциальностью данных детей);
▪️фактически не знал, какие пользователи являются детьми, и поэтому не применял дополнительные меры защиты.

Т.е. нарушение возникло не потому, что сервис «работал с детьми», а потому что он был доступен детям, что автоматически запускает требования UK GDPR и Age Appropriate Design Code.

При оценке последствий ICO учёл сотрудничество компании с регулятором, принятие предварительных выводов и то, что компания ограничила доступ к сервису из Великобритании, заявив о готовности внедрить необходимые меры защиты при возобновлении работы в UK.

Если дети ВЕРОЯТНО могут пользоваться вашим сервисом, то весь комплаенс нужно заранее проектировать, как минимум:
▪️ age assurance или разумная проверка возраста;
▪️ DPIA ( для функций с пользовательским контентом и рекомендациями) и AI Impact Assessment;
▪️ внедрение принципов privacy-by-default для несовершеннолетних;
▪️ контроль распространения пользовательского и синтетического контента.

📌 Примерный чек-лист по созданию AI-продуктов для детей

#UXWatch #LawAndDisorder
————
@pattern_ai