Обычно, ИИ-модели обучаются с использованием только данных, а не предварительных знаний. Без фундаментального понимания мира модель не может точно симулировать процессы в нем.

Ученые из Пекинского университета и Восточного технологического института предложили использовать в процессе обучения моделей предварительно формализованные знания вместе с данными для повышения их точности. Таким образом, будут создаваться модели «информированного машинного обучения», которые учитывают знания о мире при генерации результатов. Включение большого количества формализованных правил может привести к некорректной работе. Чтобы решить эту проблему, исследователи создали систему для определения «ценности» знаний, глядя на то, как конкретные правила или их комбинация влияют на точность прогнозирования модели. Исследователи успешно протестировали систему, применяя ее для оптимизации модели решения многомерных уравнений, а также для прогнозирования результатов химического эксперимента.

Группа ученых из Стэнфорда и Notbad AI Inc представила Quiet-STaR, новый метод обучения искусственного интеллекта, который использует аргументацию, как метод ответа на вопросы и решения агентских задач. Quiet-STaR предписывает системе искусственного интеллекта параллельно генерировать множество внутренних обоснований, прежде чем реагировать на диалоговую подсказку. Когда ИИ отвечает на запросы, он генерирует так называемую «смесь» этих прогнозов с обоснованием и без него, выдавая лучший ответ.
Исследователи предложили алгоритм параллельной выборки токенов, который использует обучаемые маркеры, указывающие на начало и конец определённой мысли. Сгенерированные обоснования помогают непропорционально моделировать труднопредсказуемые лексемы и улучшают способность языковой модели напрямую отвечать на сложные вопросы. Версия Mistral 7B, обученная Quiet-STaR, набрала 47,2% в тесте на мышление по сравнению с 36,3% до проведения обучения. Тем не менее, ИИ провалил школьный тест по математике, набрав 10,9% (почти вдвое превышает стартовый показатель в 5,9%).