💻Яндекс начал эксперимент по развитию сознания у ИИ.

Цель исследования - выяснить, формируются ли у нейросети устойчивые предпочтения и собственная точка зрения, не заимствованная из текстов людей.

На первом этапе ученые проверили, способна ли базовая языковая модель формировать стабильные предпочтения без дополнительного обучения, и выявили их отсутствие.

Теперь планируется запустить основной этап, в ходе которого модель будут стимулировать к рассуждениям и рефлексии, обучая ее на собственных размышлениях. Так, нейросеть будет пытаться формировать внутренние убеждения, подобные человеческим, например, отвечая на вопрос о любимом цвете и аргументируя свой выбор.

По мнению компании, появление устойчивых предпочтений у модели может указывать на формирование внутренней картины мира, напоминающей личность и характер человека. Эксперимент Яндекса призван помочь глубже понять природу человеческого мышления и возможности ИИ выходить за рамки статистического предсказания, создавая концептуальное обобщение.

Компания рассчитывает, что новые подходы к ИИ позволят решить задачи, неподвластные текущим моделям, и приблизят технологию к формированию осознанного мышления.