🧠 ИИ-поддержка в ботах.

Еще пару лет назад поддержку в ботах делали двумя способами: либо ссылка на ТГ-аккаунт, либо пересылка сообщений туда-сюда между пользователем и оператором. С появлением крупных LLM, поддержку теперь можно сделать через ИИ, существенно сэкономив время оператора на простых обращениях юзеров.


👨‍💻 Как это реализовать технически?

Получаем API-ключ у OpenAI / Claude или любого другого продвинутого ИИ. Когда пользователь что-то пишет в поддержку вашего бота, то формируем один большой текстовый запрос к ИИ, в который входит:

- вопрос пользователя,
- общая информация про ваш сервис,
- информация из базы про пользователя,
- информация из базы про связанные объекты,
- история переписки с этим пользователем,
- инструкция по стилю общения с клиентом.

В течение нескольких секунд ИИ генерирует полный развернутый ответ, который отправляете обратно клиенту)

Если вы хотите чтобы ИИ присылал в ответ еще и кнопки, то добавьте в инструкцию для этого специальные теги, которые ИИ должен включить в свой ответ. К примеру, если ИИ прислал в ответ [button_XXX], то выводите юзеру соответствующую кнопку. Аналогичное можно сделать для других безобидных действий.

Если ИИ не может помочь с каким-то вопросом, он может вывести в ответ кнопку связи с обычной человеческой поддержкой, как это реализовано во многих сервисах.


🔐 Как организовать безопасность?

По сути, в такой схеме пользователь общается с ИИ обычным текстом, никаких особых полномочий и доступов у ИИ нет, за исключением того что вы сами передадите в промпт, поэтому внимательно это проверьте. Нажатия на кнопки, которые присылает ИИ, обрабатываете как обычные inline-кнопки, со всеми проверками и валидациями, это самый критичный момент.

Разумным будет дополнительно установить лимит токенов в ответе ИИ, указать ему явно форматирование для ответов (HTML / Markdown), ограничить в инструкции темы по которым ИИ не должен консультировать.


📝 Остались вопросы? Обращайтесь - @manager_BotValley