По мере всё более широкого внедрения систем на базе искусственного интеллекта в таких областях, как здравоохранение, росли опасения по поводу непредсказуемости результатов, получаемых с помощью этих технологий. Зависимость от сложных нейронных сетей и обширных наборов данных затрудняет точное прогнозирование результатов ИИ, что создаёт проблемы этики и безопасности, особенно в критически важных секторах.
Наряду с пятью другими видами техностресса авторы исследовали влияние технической непредсказуемости на положительный (эустресс) и отрицательный (дистресс) стресс у пользователей ИИ-систем в здравоохранении. Выявилось то, что техническая непредсказуемость способствует только негативному стрессу у пользователей.
---
✍️ Дистресс очень вреден для здоровья. И в этом контексте невозможно переоценить важность прозрачности проектирования и работы, а также подотчётности систем ИИ в здравоохранении, обеспечения понимания пользователем того, как эти системы устроены и как работают, каковы их ограничения и пределы точности. Только полное понимание и адекватное решение проблем, возникающих с внедрением технологических новшеств в здравоохранении, позволит завоевать доверие и обеспечить безопасность пользователей, создать условия для благополучия как докторов, так и пациентов.
#здоровье