Давно хотел разобраться в гипотезе о платоноских представлениях. Очень крутая идея, но название удачнее, чем суть. Она состоит в том, что разные модели выучивают похожие представления данных. Даже если подходы для обучения совсем разные: модель для классификации картинок и языковая модель хранят похожие представления объектов, даже несмотря на то, что одна никогда не видела текст, а вторая – картинки. В этом и состоит платоновость: мощные модели выучивают не конкретный набор данных, а мир, который за ними стоит
Идея потрясная, но если всмотреться в детали, картина не совсем такая красивая. Похожесть представлений понимается в очень специальном смысле: по пересечению ближайших соседей. Несмотря на то, что метрика довольно оптимистичная – максимум (иногда среднее) пересечения соседей по всем парам слоёв моделей, её значение достигает в лучшем случае процентов 20. В другой статье предлагают «аристотелевскую гипотезу», но это название уж совсем неудачно, они просто делают поправку на оптимистичность метрик
Но всё равно любопытно и интересно, применимо ли это к биологии. Ещё интереснее, когда именно платоновость соблюдается, а когда нет
Post #909
154
Shit off Комменты под малопопулярными видео на ютубе – просто золотые https://www.youtube.com/watch?v=1_xH2mUFpZw
- ❤ 2