Встретил в последнее время немало новостей и статей про то, что ИИ угрожает медицине, потому что может ошибаться и т.д..

Например вот:
https://mltimes.ai/eksperty-iz-58-stran-reshayut-problemy-predvzyatosti-ii-v-mediczine/

Или вот:
Некоммерческая организация ECRI поставила искусственный интеллект на первое место среди технологических рисков в медицине.

Если резюмировать описание рисков из этих статей, то получим примерно следующее:
ИИ может галлюцинировать, ошибаться, выдавать ложные результаты, быть предвзятым, качество работы может быть нестабильным.

Безусловно все разработчики ИИ-решений для медицины должны осознавать риски и уделять максимальное внимание вопросам безопастности и этики.

Но, при этом не нужно сваливать всё на ИИ)
Все те же риски (ошибки, предвзятость) относятся и к врачам.
И вопросы качества подготовки медицинских специалистов не менее важны, чем контроль ИИ.

Закончу мысль цитатой, которая хорошо синхронизируется с моей позицией:

"Поиск баланса между инновациями в ИИ и безопасностью станет одной из самых сложных и определяющих задач современной медицины".