Мы рассмотрели пять конкурирующих подходов к машинному обучению из "Верховного алгоритма" - логический, нейронный, эволюционный, вероятностный, и основанный на сходстве. У каждого есть свои сильные, но ни один сам по себе, кажется, не может породить алгоритм, который был бы универсальным.

Как объединить все классные модели в одну революционную? Бэггинг (голосование), стэкинг (последовательная связь), и бустинг (каждый следующий исправляет ошибки предыдущих) - простые и приятные способы объединения алгоритмов в ансамбли, но мы хотим цельную систему. Такой системой может быть марковская логическая цепь: давайте генетически подбирать структуры, обучать параметры градиентным спуском, чтобы выбрать модель с наибольшей постериорной вероятностью, с учётом штрафов, как в SVM, за неправильно предсказанные классы. Причём предсказывать мы будем вероятности логических формул, применённых к объектам, находящимся в различных взаимосвязях друг с другом. Такая модель может обучаться на начальном, затравочном наборе формул, и выводить свои формулы дальше; так работает созданный автором алгоритм Alchemy, который объединяет в себе практически всё, что есть в этой книге (естественно, работает он не очень быстро). Но зато обученный на всей информации мира, такой алгоритм может стать базой и генератором всех знаний (однако придётся хорошо поработать с биг датой). И тогда, возможно, ему удастся решить проблему рака.

В мире машинного обучения любое ваше действие превращается в данные, и вы можете пользоваться этим стратегически, обучая алгоритмы, как вам нужно (например, чтобы подбирать музыку или знакомства, нужные вам). В мире, где компьютеры знают о вас очень много, у вас будут настоящие виртуальные "двойники" с вашим опытом и предпочтениями, и возможно, они возьмут на себя часть ваших функций. В таком мире появится место для компаний, хранящих ваши денные и бережно с ними обращающихся, и, конечно, это потребует законодательных изменений. Конечно, может быть, вашу работу отберёт нейронная сеть, и, чтобы этого не произошло, лучше автоматизируйте её по собственной инициативе. Зато как хорошо будет, когда роботы будут воевать друг с другом вместо людей! Однако вряд ли компьютеры захватят власть, ведь у них нет собственных целей и предпочтений; скорее надо опасаться злоумышленников, контролирующих компьютеры. В конце, может быть, цифровая эволюция продолжит биологическую, когда мы начнём выходить за рамки наших тел.

Но пока что верховный алгоритм не создан, и вы можете принять участие в его создании. Покачайте датасетов с UCI, померяйтесь силами на kaggle, делитесь знаниями с другими, развивайтесь, и да пребудет с вами сила машинного обучения!

goo.gl/tP4pTV - статья Домингоса про марковские логические цепи
goo.gl/vawv4y - сайт алгоритма Alchemy
#матчасть #weirdMath #machinelearning #верховныйалгоритм #themasteralgorithm