Итак, в предыдущем посте, опираясь на принцип утиного теста, я предложил три критерия мимикрии под AGI — понимание потребности пользователя, моментальная реакция на обратную связь и способность адаптироваться под запросы в контексте.

— Но ведь это же описание идеальной рекомендательной системы! — могли бы радостно воскликнуть студенты, успешно прошедшие мой одноименный курс. И были бы правы. Если быть более точным – это описание интерактивного персонального интеллектуального ассистента. Всеведущего как Анатолий Вассерман и понимающего с полуслова как близкий друг. Отчасти мы уже к этому приблизились. Пользователи по всему миру отмечают как общение с GPT-моделями помогает им решать острые вопросы, в том числе и личные. ИИ предоставляет как информационную, так и психотерапевтическую поддержку. Однако это хорошо работает там, где проблемы и их решения относительно легко перекладываются на естественный язык. Это прекрасно иллюстрируется примерами из области рексистем, где большие языковые модели давно тестируют для замены более классических подходов, но хороший результат удается продемонстрировать в ограниченном наборе доменов, преимущественно текстовых (таких как рекомендации книг, например).

В общем случае для произвольных доменов такой подход сталкивается с серьезными препятствиями (описание которых сейчас не принципиально и, может быть, станет темой одного из будущих постов). И это, на мой взгляд, ключевое наблюдение.

Необходимо реализовать более универсальный подход. Участие LLM (или какой-то новой архитектуры, которая придет на смену) при этом не исключается, т.к. элемент интерактивного взаимодействия на человеческом языке является неотъемлемой составляющей интеллектуального ассистента. Но нужно также развить способность хорошо понимать как краткосрочные, так и долгосрочные особенности поведения человека. Научиться аппроксимировать механизм принятия им решений, не имея при этом возможности построить явную интерпретируемую модель этого механизма. Единственный известный мне способ этого достичь – коллаборативная фильтрация, «рабочая лошадка» всех современных рексистем, реализующая принцип «мудрости толпы». Мы пронаблюдаем как люди ведут себя в большом количестве ситуаций выбора, обучим модель, «впитывающую» из этих данных общие поведенческие паттерны, и будем ее использовать для прогнозирования уже на индивидуальном уровне, учитывая особенности конкретного пользователя и текущий контекст. Здесь, конечно, скрываются некоторые нюансы. Но о них расскажу уже в следующем посте.