Продолжаю обсуждение важнейших вопросов Бытия интересностей прикладной Науки - которые упомянул в последнем опросе Канала и в последующем отклике ИИ ⬅️

Пришла пора разобраться с "теоремой имени двух великих математиков" - Колмогорова и Арнольда. Среди прочего (и грандиозного) их наследия, значится решение одной из проблем Гильберта. Соответствующая задача входит в известнейший в узких кругах список "самого-самого важного в математике", составленный - удивительное дело, великим математиком Гильбертом! - более 100 лет назад. Кстати, несколько проблем из этого списка до сих пор не решены, и представляют "святой грааль" Науки, за подробностями => соответствующая статью в Wiki ⬅️

Так вот, теорема Колмогорова-Арнольда, если упрощённо-вульгарно, про следующее: любая функция многих переменных может быть представлена через композицию многих функций одной переменной (каждая) и их сложение. Почти магия = любая многомерная сложность как будто "раскладывается" в набор одномерных функций.

До определённого момента красота сей теоремы оставалась скорее примером "игр разума". Но с наступлением эпохи машинного обучения, нейросетей, и там паче современного ИИ, стали ясны её очень актуальные приложения. Что воплотилось в архитектуру специальных сетей, получивших (ожидаемое) название KAN (Кolmogorov-Arnold Networks). В чём их интересность:
▪️вместо множества слоёв нейронов, со сложно-подбираемыми весами - что характерно для "обычных" нейросетей - KAN используют (как правило простые) одномерные функции на рёбрах сети и складывают их в (тоже довольно простые) композиции,
▪️важно понимать, что во многих реальных задачах, например в классификации по набору признаков, результат как раз определяется не "бесформенной многомерной сложностью", а сочетанием нескольких откликов на характерные признаки = один маркер полезен только вместе с другими / есть выраженные пороги / маркеры очень сильно "прицепляются" к классам... KAN "органически" приспособлены к тому, чтобы "вытаскивать" именно одномерные зависимости и их композиции, а потом ещё и упрощать их,
▪️поэтому ценность KAN часто не в том, что они всегда дают лучший accuracy - а в том, что они чаще выдают пользователю простую и интерпретируемую логику.

Яркие прикладные примеры KAN:
🔹десятки типов рака на multi-omics данных хорошо классифицируются всего несколькими признаками = mRNA + miRNA + DNA methylation + "ещё чуть-чуть",
🔹для прогноза краткосрочного потребления электричества в разных типах инфраструктуры - многоквартирный дом, большое общежитие, таунхаус с зарядкой электромобилей, промышленное здание - тоже оказывается достаточным взять в расчёт лишь несколько ключевых "маркеров" по типажу здания,
🔹биохимические связи, играющие роль в развитии системных и сложных заболеваний, могут быть сведены к небольшим наборам ключевых генов и их взаимодействий.

...если этот пост вызовет интерес широких народных масс - готов впоследствии подробнее рассказать, чем KAN помогают прямосейчас в моих задачах 🤓