Почти в каждой третьей медицинской записи, составленной ИИ, исследователи нашли ошибку.

ИИ-секретари (AI scribes) уже используют для автоматической расшифровки консультации и подготовки записи в медкарте. Идея простая: врач разговаривает с пациентом, а ИИ сам оформляет документацию.

Но насколько такой записи можно доверять?

Исследователи проверили три коммерческие системы на одном наборе из 142 консультаций. В результате получили 565 медицинских записей и нашли в них 618 подтверждённых ошибок. Хотя бы одна ошибка была обнаружена в 31,3% записей — примерно в каждой третьей.

Ошибки были не только в формулировках. ИИ мог неправильно указать лекарства или сведения об аллергии, пропустить диагноз, придумать данные о пациенте или превратить рассказ пациента о прошлом в результат физического осмотра. Последнее особенно показательно: в некоторых случаях система описывала осмотр, которого вообще не было, потому что консультация проходила по телефону.

Если исключить некоторые ошибки, которые возникли из-за отсутствия у систем данных из медицинской карты, показатель снижается до 24,8%.

Но главный вывод от этого не меняется.

ИИ-секретарь может значительно сократить рутинную работу врача, но его запись нельзя автоматически считать достоверной. Перед сохранением в медкарте её всё равно должен проверить человек.

Проблема здесь не в том, что ИИ иногда пишет с ошибками. Проблема в том, что он способен уверенно добавить в медицинский документ то, чего в консультации вообще не было.

Да, вы правы, я выдумал информацию, этого не было на приеме.