Хороший текст - длинный, но понятно написанный - о сложностях, связанных с непрозрачностью алгоритмов машинного обучения.

Никто не знает, как именно работают нейросети. А значит, никто не может сказать, когда они сработают неправильно.

Некоторые бизнесы отказываются от решений, основанных на нейросетях, в пользу других решений - менее эффективных, но зато с понятной схемой работы.

В попытке понять, как работают нейросети, разработчики и исследователи пытаются "заглянуть" в них, понять, как они "видят" входные данные - и это, пожалуй, самая интересная часть текста.

Автор заключает: возможно, глубинные сети окажутся такими же сложными для понимания, как и жизнь.

Там больше и интереснее, чем я здесь пересказал тремя предложениями, если интересуетесь темой - почитайте обязательно:
http://nautil.us/issue/40/learning/is-artificial-intelligence-permanently-inscrutable
перевод: https://geektimes.ru/post/280488/