2026-10-16: Нейросети проще, чем казалось — новая гипотеза Каммараты 🧠

Ник Каммарата утверждает, что нейросети устроены проще, чем считается, и в нейронах объединены глобальные концепции, а не случайный набор признаков.

Ранее он был сторонником суперпозиции, согласно которой активации нейронов сложно интерпретировать, но теперь считает, что это не всегда так. Он опроверг классический пример с GoogLeNet, показав, что смешение признаков связано с формой нейрона, а не случайностью.

Читаемость нейронов не зависит от размеров моделей — маленькие модели имеют более грубые признаки, большие дают более детальные объяснения. Аналогичные выводы подтверждают исследования языковых моделей и масштабных сетей.

Это может упростить интерпретируемость ИИ, сделав обычный анализ нейронов более перспективным, чем сложные методы.

🌎 Источник

✍️ by data_secrets

#news #ai #analytics
🇬🇧 🇷🇺 ☕️ 🌐 💷