🌌 Секреты визуального мышления нейросетей и проект DeepDream

В 2015 году компания Google представила инструмент DeepDream. С его помощью ученые заглянули внутрь нейросетей. Программа превращала обычные облака в причудливые морды собак, раскрывая скрытые механизмы работы искусственного интеллекта.

При попытке визуализировать гантель система всегда дорисовывала человеческие руки. Алгоритм просто запомнил объект вместе с привычным контекстом из обучающих фотографий. Это наглядно иллюстрирует особенности машинного обучения:
👁️ высокая точность не гарантирует понимания сути задачи
👁️ модель способна выстраивать ложные связи между объектами
👁️ интерпретация работы алгоритмов остается сложным вызовом

©Artificial_Intelligence_Relations

🤖 Хабр