(ч.2) Учитывая то, что нам сегодня известно о собственной системе мотивации, мы бы просто кратчайшим путём приходили к локально достижимому эмоциональному оптимуму и всё – нам бы было «хорошо». Наша личность при этом, скорее всего, редуцировалась до того минимума, который нужен для оптимизации получения нужных эмоций, т.к. всё остальное – просто лишняя шелуха, являющаяся следствием внутренней рефлексии или попыток «прощупать» логику работы собственного мышления. Мы как тестировщики ПО, которым не дали документации, тыкаем разные кнопки в попытках установить закономерности того, что происходит у нас в голове, и именно это полуслепое тыканье «обогащает» нашу личность кучей зачастую вполне дебильных и плохо согласованных представлений.

Полагаю, именно из-за такого непонимания алгоритмов собственного мышления люди и верят в ту же свободу воли, например. Мы не знаем, как устроены алгоритмы собственного поведения и потому, видимо, можем тешить себя мыслью о том, что алгоритмов нет. Ну, или, они какие-то «свободные», да? Свободные алгоритмы, господа, представляете какая интересная штука. Кстати, это вполне согласуется с логикой того, что Бог специально создал человека свободным. Всё логично – создать нечто, обладающее самознанием, т.е. полноценным пониманием логики собственного функционирования, неинтересно. А вот создать что-то, что само не понимает, как оно работает, весьма прикольно. Можно потом позабавить себя наблюдением за внутренними метаниями этого создания, за его слепым блужданием по спирали внутренней рефлексии, когда тварь гадает, что она сделает в следующий момент, куда же её выведет "свобода воли".

В свете вышесказанного говорить о «самосознании» компьютера, по-моему, довольно сложно. У компьютера совершенно иная структура организации хранения и обработки информации, и если специально не предпринимать каких-то мер по эмуляции экранирования алгоритмов формирования решений от агентов, обращающихся к этим алгоритмам, компьютер будет обладать именно что «самознанием», а не «самосознанием». Рефлексия, направленная на прощупывание собственной логики работы, ему не будет нужна. Распространённая сегодня структура агент-модель – не от хорошей жизни, это лишь промежуточный подход, использование которого связано с отсутствием нормальных эволюционных моделей условного принятия решений на основе системы категорий.

Кто-то умный, возможно, задастся вопросом – так что же это выходит, если люди, получив самознание, быстро редуцируются до примитивных биороботов по выработке оптимальных эмоций, то и компьютерный интеллект, априорно обладающий самознанием, тоже обречён на примитивизацию? А вот тут, господа, вся суть в системе мотивации. Увы, но наша с вами система мотивации не является чем-то абсолютным или даже оптимальным – это лишь частный случай, порождённый конкретным эволюционным путём. Да, такая система мотивации делает невозможным совмещение самознания и саморазвития, т.к. если человек познает себя, он узнает и то, что развитие ему не нужно. Компьютра это не касается. И именно поэтому в какой-то момент времени развитие пойдёт дальше уже без нас