CLM-8B кэширует действия агента, чтобы быстрее выбирать

Исследователи из Стэнфорда и Nvidia представили Contrastive Language Models (CLM) — модели для задач, где ИИ нужно выбрать действие из заданного набора или ранжировать варианты. CLM-8B не генерирует ответ по токенам: она сопоставляет представление текущей ситуации с представлениями доступных действий. В тестах без предварительного обучения под конкретные задачи модель работала до 9 раз быстрее Jev от TypeSafe и показала такой же процент успеха на двух игровых задачах. На других двух задачах CLM уступила Jev в точности. Повторно используемые представления действий можно кэшировать, что помогает ускорить решения, которые агент принимает много раз за рабочий процесс.

👉 Читать полностью