Текст Дэвида Кракауэра, президента Института комплексности Санта-Фе
 
Sizing Up the Ghosts in the Machines
Калибровка духов в машине
https://sfiscience.substack.com/p/sizing-up-the-ghosts-in-the-machines
Вся наука занимается экзорцизмом.
Когда философ Гилберт Райл в своей работе «Концепция разума» (1949) ввел понятие «призрак в машине», он выявлял и изгонял ненужную объяснительную сущность в картезианском дуализме.
Но духи бывают разные, и обряды экзорцизма тоже.
 
Физика изгоняет лишние частицы - ненужные свободные параметры, которые появляются в погоне за универсальностью. Биология изгоняет лишние процессы - божественные или телеологические факторы. А науки об интеллекте изгоняют навязанные шаблоны - трансцендентные источники познания. Каждая наука стремится к минимализму, но каждая вкладывает в это понятие нечто совершенно иное.
 
Призрак, которого нужно изгнать, — это ненужное правило. После экзорцизма остается не универсальная параметризация, а универсальный механизм (отбор), который действует локально и итеративно.
 
Компьютерные специалисты создают архитектуры, стремящиеся быть неуязвимыми для духов.
Когда физики критикуют биологию за слишком большое количество параметров, они применяют параметрическую экономность там, где целью является экономность процесса.
А когда биологи обвиняют нейробиологию в игнорировании эволюционных ограничений, они привносят экономность процесса в область, где действует архитектурная экономность.
В каждой области есть свой призрак, каждая область существует в своем интеллектуальном бардо*, в каждой действуют свои ритуалы.
 
Старые дисциплинарные призраки стремились стать онтологическими, пугающими сущностями. Последующие, более скептически настроенные поколения изгнали их.
 
Сейчас у нас есть эпистемические призраки, закономерности в больших массивах данных, проявляющиеся в виде регулярностей, корреляций и структур, которые, кажется, ни один человеческий теоретик ранее не называл и не замечал. Модели LLM предполагают, что нас преследуют обширные области закономерностей в языке, сворачивании белков, погоде и геномике, которые просто слишком многомерны для наблюдения человеческой интуицией, но не слишком сложны для распознавания достаточно масштабной статистической моделью.
Призраки множатся, многие из них — галлюцинации, и научным экзорцистам приходится осваивать новые ритуалы.
 
* Бардо – тибетский мистический термин: «промежуточное состояние», «промежуток» или «интервал».
 
Комментарий
Текст насквозь мистичен. И это совершенно определенное мистическое направление.
Кто сказал, что нужно именно изгонять духов, а не взаимодействовать с ними? Запад – фаустианская цивилизация. Фауст яростно пытался взаимодействовать с духами (земли, например).
 
Классическая физика и сейчас образец для других наук. Фейнман как-то отметил: «Ни одно из великих открытий в физике и математике не было сделано алгоритмическим путем. Ученые просто догадываются об основных закономерностях природы».
Это догадыване, озарение – разве на акт связи с неким «призраком»?
 
С одной стороны - есть позиция, озвученная Фейнманом (на картинке выше – фото таблички на мосту Брум Бридж в Дублине).
С другой стороны – есть машинное обучение, идея и цель которого - построение модели, которая принципиально отказывается искать скрытую сущность явления и уж тем более с ней, сущностью, взаимодействовать. Модель строится так, чтобы она максимально похоже воспроизводила данные, на которых проводится обучение, и только.
 
Тут, кстати, и ответ на вопрос о том, кто будет главный в мире победившего ИИ. Тот, кто будет придумывать метрики обучения – то есть взаимодействовать с этими «призраками», которые профанам предлагается изгонять, - и будет всем рулить.
 
И Санта-Фе, и Кракауэр скептично настроены по отношению к ИИ. Здесь Кракауэр «бьёт врага его же оружием». Тактически – это понятно. Но стратегически – он подрывает основания любой науки, уж тем более своей «комплексности».
 
#тренды