Медицинские ИИ принимают ложь за истину

Исследователи обнаружили серьезную уязвимость медицинских ИИ-систем. Большие языковые модели способны повторять ложную информацию, если она представлена в убедительной форме. Стиль подачи оказывается важнее медицинской точности.

Масштабный эксперимент охватил девять ведущих LLM. Использовали более миллиона запросов. Создали три типа сценариев для проверки.

https://mltimes.ai/mediczinskie-ii-prinimayut-lozh-za-istinu/