1 апреля, но ИИ шутит круглый год

Отчеты и статьи посмотрели в предыдущих постах.
Но в реальности может быть больно (из последнего):
▪️кейсы, где чат-боты фигурируют в делах о суицидах и исках о причинении вреда,
▪️подростки получали от ИИ информацию о способах самоубийства, обходя меры безопасности
▪️ исследования, показывающие системную проблему «лести» и избыточного согласия моделей (sycophancy).
▪️ ИИ "пошутил" над заявительницей на ПМЖ в Канаде, которой отказали на основании обязанностей, которых у неё никогда не было. В письме фигурировали полностью вымышленные задачи "сборка электрических панелей" и "программирование контроллеров".

Поэтому необходим системный подход к внедрению. На фоне скандала Министерство иммиграции, беженцев и гражданства Канады (IRCC) опубликовало свою первую стратегию в области ИИ, описывающую, как эта технология будет использоваться в процессе обработки иммиграционных документов:
▪️Вводятся принципы, основанные на человекоцентричном надзоре, прозрачности, справедливости, безопасности и надежности.
▪️Приложения ИИ делятся на три категории: «повседневные», «программные» и «экспериментальные». Согласно документу, технология может помочь оптимизировать административную работу, поддержать анализ данных, улучшить выявление мошенничества и отбирать заявки с низким уровнем риска для более быстрой проверки.
▪️Окончательные решения, включая отказы, по-прежнему будут приниматься сотрудниками-людьми.
▪️Системы ИИ НЕ будут работать автономно.

#UXWatch
————
@pattern_ai | AI GDPR Navigator