Представьте: вы просите нейросеть нарисовать кота в шляпе. На экране появляется пушистый рыжий комок — но с шестью лапами и глазами на хвосте. Вы смеётесь и думаете: «Ну, машине простительно». А теперь представьте другую ситуацию: алгоритм отказал вам в кредите, потому что проанализировал ваши покупки в продуктовом магазине. Или система рекомендовала врачу игнорировать ваши симптомы — и это стоило здоровья. Смешно уже не становится.
Мы всё чаще сталкиваемся с искусственным интеллектом: он фильтрует спам, предлагает музыку, распознаёт лица на фото. Но когда дело доходит до серьёзных решений — о деньгах, здоровье, работе — возникает законный вопрос: а можно ли ему доверять? Чтобы ответить, сначала нужно понять, почему ИИ вообще ошибается. И тут важно забыть про голливудские сценарии про восставшие роботы. Проблема не в злых намерениях — её корень гораздо прозаичнее...
Подробнее в ВКонтакте

@whilet_ru