🤖 Исследователь интерпретируемости Ник Каммарата предполагает, что нейросети могут быть гораздо «чище», чем принято думать — отдельные нейроны часто отвечают не за случайную смесь признаков, а за довольно цельные концепции, просто не всегда очевидные человеку.

В аудитах Qwen3-32B около 90% нейронов удалось связать с одной основной функцией, что ставит под сомнение идею о нейросетях как полностью непрозрачных «чёрных ящиках».