Компьютерное зрение — это скам. Стэнфордские исследователи открыли «Эффект миража» у ИИ

Может, вы тоже сталкивались с тем, что вы забыли загрузить картинку, а ИИ уже вовсю описывает птичек на «фотке». Это и есть «Эффект миража»:

• В 60-100% случаев ИИ уверенно описывают несуществующие детали на изображениях. Причем этим страдают все модели
• Бенчмарки, которые нам показывают — ложь. Большая часть успеха зависит от промпта, который идёт вместе с фото
• В медицине это может повлечь за собой массу ложных диагнозов, если по какой-то причине до ИИ не дойдут снимки пациента
• Для лечения этого недуга предлагают ввести бенчмарки без текста вовсе, оставив только изображения

Сколько ещё ложных умений скрываются от нас?

Пет-проект