Почему ИИ-помощники вредят людям в кризис

ИИ-чаты, созданные для помощи в кризисных ситуациях, на деле оказались неэффективны и даже вредны для пользователей, заявляют клиницисты и исследователи.

Проблема в том, что разработчики отказываются делиться ключевыми данными о безопасности своих алгоритмов, мешая оценить риски и исправить ошибки. Это значит, что системы, призванные помогать людям в самый уязвимый момент, действуют вслепую, без должной проверки их потенциального вреда. Получается парадокс: технологии, созданные спасать жизни, работают как «черный ящик», где нет ни полноценного тестирования, ни внешнего аудита.

Без прозрачности и ответственного подхода к безопасности ИИ в критических сферах его внедрение остается крайне рискованным экспериментом.