Что такое глубинное обучение?

Как связаны глубинное обучение и машинное обучение? На что влияет «глубина» нейронной сети? Рассказываем о важнейшей области машинного обучения.

Кратко: о чём статья?

Стремительный рост вычислительных возможностей компьютеров позволил человечеству обучать нейронные сети, содержащие огромное количество преобразований (их также называют «слоями»). Количество слоёв, из которых состоит нейросеть, называют её глубиной. Работая с ней, мы сталкиваемся с рядом нетривиальных вопросов, на которые и призвано ответить глубинное обучение.

Например: как подбирать архитектуру модели (выбирать тип слоёв, их порядок и количество)? Как эффективно обучать глубокие модели? На что и как влияет глубина?

Подбор оптимальных характеристик и настройка процедуры обучения глубоких нейросетей – непростая задача, просто добавить слои не получится. Важны их порядок и тип, количество данных, на которых происходит обучение, параметры обучения. Глубокую нейросеть не обучишь на «маленьких» данных.

Важный ингредиент успешного обучения глубокой нейросети – графический процессор (видеокарта). Графический процессор способен эффективно выполнять операции параллельно, а это как раз то, что нужно для глубоких нейросетей. Распараллеливание в десятки раз ускоряет процесс обучения и позволяет обучать очень глубокие модели.

Узнать, с какими ещё сложностями и проблемами глубоких сетей встречаются исследователи, когда появились первые нейросети и какая статья стала прорывной в их обучении, можно из полного текста статьи.

Время чтения: 8 минут.