В продолжение предыдущей темы, давайте попробуем сопоставить видам мышления известные принципы работы нейросетей.

Начнем с понимания. В первую очередь, это работа с внешней информацией, попытка распознать в ней закономерности, сопоставить с уже известными.

Для иллюстрации принципа работы понимания лучше всего подходят сверточные нейронные сети. Собственно, сам принцип их работы был взят из нейробиологии, это принцип работы кортикальных колонок. На этом видео 1962 года видно как активируются клетки зрительной коры кошки, если она выделила в световом луче конкретную закономерность. Правда потом понадобилось 50 лет, чтобы воспроизвести аналогичный уровень распознавания искусственным образом.

Если таким же образом задуматься о мышлении, то напрашивается аналогия с генеративными нейросетями, например ChatGPT и Midjourny. Именно они способны «складывать интеллектуальные объекты посложнее из интеллектуальных объектов попроще». Т.е. не просто выделять закономерности во входящем потоке информации, а формировать новые смыслы и образы, выявляя ключевые отношения между уже имеющимися.

Что же тогда будет соответствовать рефлексии? На мой взгляд, это оценка качества принятого решения. И основным критерием для такой оценки является эволюционное стремление к выживанию. Результат работы мышления сам по себе никому не интересен. Мало ли что вы там напридумывали, важно что вы потом с этим сделали! Именно рефлексия порождает действие.

Покопавшись в поисках нейросетевых аналогий, пришел к выводу, что этот аспект находится в самом запущенном состоянии. Может плохо искал, но текущий опыт использования ИИ показывает, что больше всего страдает именно оценка качества выдаваемого результата. Midjourny все еще выдает людей с шестью пальцами, а ChatGPT может с уверенностью выдать популярное заблуждение.

Так может именно в получении способности к рефлексии кроется следующий прорыв в ИИ? Если Midjourny будет знать, что за картинку с шестью пальцами могут выдернуть из розетки, она быстрее научиться так не косячить?