Чем нейросеть отличается от бустинга над линейными моделями?

Если смотреть на эти два подхода под таким углом, то можно отметить одно основное различие.

В бустинге мы каждую базовую модель обучаем последовательно. При этом мы никак не меняем веса в предыдущих моделях: каждая новая пытается скорректировать их ошибки. В нейросети же мы обучаем весь ансамбль моделей сразу. Это значит, что во время обучения веса могут меняться во всех слоях одновременно. Мы можем делать это быстро, благодаря методу обратного распространения ошибки (Backpropagation).

#глубокое_обучение
#машинное_обучение