Есть такой очень интересный чёрт, Jürgen Schmidhuber. Когда-то я очень хотел перевести его статеечки и ответы на вопросы из Реддита на русский, но поленился. Кажется, сейчас хороший момент про него вспомнить.

Он один из экспертов по искусственным нейронным сетям, и в частности RNN, рекуррентным нейронным сетям, и трансформерам, на основе развития которых и построены современные архитектуры сетей типа GPT3.

Сейчас Юрген работает над задачами metalearning, то есть обучения обучению и строит Gödel Machine – программу, способную эволюционировать, перестраивая собственный код. Его интересует как раз метасостояния моделей и обратная связь.

Все кто во вчерашней заметочке позарубались на тему сознания нейронок, но не слышали про Юргена – рекомендую почитать про него, у Лекса Фридмана есть с ним подкаст, есть выступление на TEDx, AMA в Реддите, может что-то еще.

Но сегодня я просто переведу пару его реплик из AMA аж в 2015 году.

Q: Есть ли у вас любимая Теория Сознания, и как вы думаете, какое влияние имеет Теория Сознания на AGI?

A: Карл Поппер когда-то сказал: “Всё чем является жизнь – это поиск решений”. Никакая Теория Сознания не нужна, чтобы определить цели “поисковика решений”. С точки зрения AGI, сознание – это в лучшем случае побочный продукт универсального поисковика решений.

Откуда возьмется это сознание? Я думаю, в процессе компрессии данных во время поиска решений.

Когда поисковик решений взаимодействует с миром, он должен хранить максимум данных о всей истории своих действий и всю сенсорную информацию, включая сигналы наград. Данные – святая ценность, так как они являюся основой всего, что мы знаем о мире.

В то время как мы взаимодействуем с миром в попытке достижения целей, мы создаем внутреннюю модель мира, предсказывая и сжимая те самые исторические данные, которые мы наблюдаем. Если предсказатель/компрессор является биологической или искусственной нейронной сетью, например рекуррентной нейронной сетью, он автоматически построит иерархию образов, на низком уровне будут сырые сигналы, на более высоких – более абстрактные образы. Как любой хороший компрессор, нейронная сеть будет учиться определять общие закономерности среди существующих структур данных, и создавать репрезентации, символы для часто встречающихся наблюдаемых феноменов или последовательностей наблюдений. Это просто натуральный результат компрессии данных наблюдений, чтобы сохранить максимум истории и занимать минимум места.

Рано или поздно появляется “символ себя” (self-symbol), просто как побочный продукт этого процесса, поскольку есть одна штука, которая фигурирует во всех процессах взаимодействия агента и среды – это сам агент. Поэтому появление внутренней репрезентации себя также естественно в результате компрессии.

Если эта репрезентация активируется, например во время активации группы нейронов при входящем внешнем сенсорном потоке, или во время подачи на вход данных от “внутреннего фонарика”, при своего рода рефлексии в нейронной сети, то можно назвать этого агента “осознанным”, так как он осознает самого себя.

Нет смысла видеть в этом какой-то невероятный мистический процесс – это просто естественный результат эффективной компрессии постоянного потока внутренних и внешних данных и кодирования часто встречающихся наблюдений.

—

Q: В чём вы абсолютно уверены, а с вами не согласны большинство окружающих вас в настоящий момент людей?

A: Многие считают что разум это невероятная, бесконечно сложная штука. А я думаю что это очень натуральный продукт нескольких простых принципов, которые будут считаться совершенно банальными задним числом, уже после открытия. Они будут настолько примитивными, что даже дети будут способны понять и сделать свои разумные, постоянно обучающиеся и универсальные поисковики решений.

—

Что думаете? Нужно побольше на пальцах расписать как работают RNN или другие похожие рекурсивные нейронки, чтобы понять, почему Юрген настолько сильно верит в то, что они и есть основа сознания? Или уже пора своё мнение по вопросу писать? =)