Пара интересных статей про сознание

Многие наверняка уже слышали, что лаборатория Google DeepMind открыла вакансию для специалиста по изучению машинного сознания в «пост-AGI эру». В то же время компания Anthropic запустила исследовательскую программу, чтобы выяснить, могут ли нейросети обладать опытом, предпочтениями или испытывать стресс (а глава компании Дарио Амодеи написал очередной пост
о важности изучения «цифровых мозгов» современных LLM).

В общем, тема эта сейчас горяча, поэтому чтобы следить за ней рекомендую дополнительно почитать эти статьи:

▪️ Taking AI Welfare Seriously (Р. Лонг, Дж. Берч, Д. Чалмерс и др).
Исследователи утверждают, что существует реальная вероятность того, что в ближайшем будущем некоторые ИИ-системы станут сознательными, и в связи с этим предлагают три первых шага, которые могут предпринять компании уже сегодня: 1) признать, что благополучие ИИ является важным и сложным вопросом; 2) начать оценивать системы ИИ на предмет наличия внутренних переживаний; 3) разработать политику и процедуры для работы с ИИ с надлежащим уровнем моральной ответственности.

▪️Adversarial testing of global neuronal workspace and integrated information theories of consciousness (С. Деан, К. Кох, Дж. Тонони, Д. Чалмерс и др).
Исследовательская группа из ученых-когнитивистов и философов «столкнула лбами» две наиболее популярные сегодня научные теории сознания - теорию глобального рабочего пространства (GWT) и теорию интегрированной информации (IIT). Результаты проведенного ими эксперимента согласуются с некоторыми предсказаниями IIT и GWT, но в то же время существенно оспаривают ключевые положения обеих теорий.

#papers