Не обманывайтесь: большие языковые модели не рассуждают

В 2016 году AlphaGo обыграла Ли Седоля со счётом 4:1, сделав в одной из партий неожиданный ход — поставила камень на пятую линию доски. Многие сочли ход 37 сбоем программы, а сам Ли после матча назвал его творческим. Но выбор сделал не один лишь «инстинкт» ИИ: AlphaGo перебирала возможные продолжения и оценивала их последствия. Торе Грепель, бывший участник команды AlphaGo в DeepMind, считает, что современные большие языковые модели не обладают таким механизмом рассуждения. Чтобы получать проверяемые результаты в науке и медицине, ИИ-системам нужны явное состояние знаний, работа с доказательствами и возможность пересматривать выводы.

👉 Читать полностью