зачем нужно объяснять? для неспециалистов ИИ — это что-то на уровне магии. объяснимый ИИ (Explainable AI) старается сделать сложные алгоритмы понятными, превращая «черные ящики» в прозрачные системы. в теории, мы доверяем технологии, если понимаем, как она работает. все больше нарастает напряжение между любопытством к ИИ и осознанием его влияния. можем ли мы сделать объяснения более доступными?
Вот, что предлагает исследовательский отдел BBC. Их цель:
чтобы люди имели реалистичное понимание возможностей и обещаний ИИ. Прокладывая реалистичный путь где-то между шумихой о светлом будущем от компаний, продающих продукты ИИ, и нагнетанием страха перед сверхразумными роботами, которые отнимут у нас работу.
Мы хотели бы помочь людям понять сильные и слабые стороны ИИ, чтобы они могли участвовать в дебатах о том, когда его следует использовать, а когда нет, когда сомневаться в том, следует ли его использовать, когда доверять ему, а когда нет. Мы хотели бы, чтобы люди знали о реальных рисках ИИ и о том, что может произойти, если что-то пойдет не так.
Это не сверхразумные машины, решающие, что делать самостоятельно. Это люди решают, к каким проблемам будет применяться ИИ, это люди пишут код, это люди решают, на каких данных обучать систему, это люди отслеживают систему или фильтруют результаты, и обычно именно люди изначально генерируют данные (сознательно или неосознанно).
1. Создавайте «ментальные модели» — BBC разработали приложение, которое помогает понять, как ИИ распознает птиц на фотографиях. Загружаете снимок, видите, как система его обрабатывает и какие выводы делает.
2. Объясняйте процесс — Показывайте, как ИИ делает прогнозы, что он может и где его слабости. Например, проект Model Cards от Google, созданный не только для разрабов, но и для коммуникаторов. Создатели утверждают, что на краткие документации можно опираться, чтобы объяснять сложные технологии широкой аудитории.
3. Демонстрируйте (не)уверенность — говорите о точности прогнозов ИИ. Например, «С вероятностью 85% это кот». ИИ может сомневаться, и это важно подсвечивать.
4. Ищите понятные особенности — Ищите те признаки, которые ясны людям, визуализируйте их, чтобы показать, на чем фокусируется ИИ.
5. Объясните данные — Откуда они и как собраны? Как проходит обучение модели? Сколько данных используется?
6. Оставляйте контроль за пользователем — людям нравится контролировать. Дайте им возможность настраивать параметры, видеть и редактировать персональные данные, используемые ИИ, и давать обратную связь.
такой вот гайдлайн по демистификации ИИ :)
