💡 Забота о клиенте, или снова про AI

В текущем проекте задействуется LLM для принятия решения о дальнейших шагах в программной логике. Если не вдаваться в подробности, то выглядит так. Ты передаёшь в языковую модель запрос клиента и дополнительную информацию, включающую список доступных вариантов: <мнемоника; при каких условиях надо предпочесть её>, а модель должна сделать выбор одного варианта. Это своего рода switch-case из языков программирования, только на стероидах.

Так вот. Одна из моделей, на которых тестировал, напрочь отказывалась выбирать вариант "abort_scenario", хотя по описанию именно он лучше всего подходила под ситуацию. Модель с упорством выбирала другой вариант – "make_decision". В какой-то момент меня осенило: надо прямо спросить модель (это же диалоговая штука): почему она выбирает именно это? И, когда я пойму логику выбора, смогу что-то с этим сделать.

Каково же было моё удивление, когда я увидел объяснение.

Оказалось, что модель считала, что при выборе "abort_scenario" клиент вообще не получит ответа на свой запрос и останется неудовлетворённым (к слову, это не так, но модель не знала того, что предполагалось делать потом). Модель целенаправленно выбирала "make_decision", чтобы данный запрос был передан в работу другому специалисту (видимо, человеку), который смог бы уточнить у клиента его потребность и помочь ему.

Ещё раз: модель понимала, что надо выбрать один вариант, но с учётом своих соображений выбирала другой. Вот такой вот сердобольный ИИ 🤔

#ai #4ir #программирование