Еще немного про «ИИ-мусор»

Так уж сложилось, что мы живем в такое время, когда с одной стороны нам рассказывают потрясающие истории про то, как ChatGPT поставил семилетнему мальчику правильный диагноз, над которым до этого безуспешно бились 17 врачей, а с другой стороны - как парень из твиттера собрал бота для вычисления «легкодоступных» (долго подбирала нейтральное слово) девушек по их фотографии.

Раз ИИ уже пытаются использовать для изобретения лекарств, постановки предварительных диагнозов, прогнозирования событий и т.п., а ученые публикуют полноценные исследования о предсказании рака по фото с помощью глубокого обучения (спасибо посту Сергея Цыпцына за наводку), то представьте, сколько инфоцыганских ИИ-продуктов нам будут навязывать уже совсем скоро (уже навязывают, но будет больше).

Суть проблемы проста: такие психологические эффекты, как апофения, самоисполняющееся пророчество, эффект субъективного подтверждения и др. отлично поддерживаются верой в способность ИИ круто анализировать огромные датасеты, предсказывать наше индивидуальное будущее и успешно охотиться за всевозможными «черными лебедями».

Что делать? Держать в голове знаменитую цитату экономиста Рональда Коуза: «Если достаточно долго мучить данные, они признаются (в чём угодно)».

#trends