Держу в курсе проекта ➡️

Вчера смотрели, что успели сделать коллеги из ИТ. Сделано немало.

Статус кво:
1. Используется переработанный публичный код для бота.
2. Используется публичная база данных решений ФАС на 7000 строк, размеченная, но не векторизованная как надо.
Спасибо @delay_rag
3. Используется МТС API для доступа с опенсорсным моделям нейросетей.

Задача была проверить, работает или нет и какое качество ответов? Потому что мы настраивали под себя уже работающий проект. А ещё мы заменили модели и были не уверены, что сохранится полезный эффект.

В итоге на блоке для распознавания изображения у нас стоял gpt 5. На блоке проверки базы и написания ответа - grok 4.
Ответы меня не устроили по нескольким причинам:
1. Общий ответ был около 4,5 минут. Ни один маркетинг не будет использовать.
2. Gpt 5 неточно распознал изображение, из-за этого пошла ошибка дальше и в итоге улетела в стратосферу. Ответ был плохой, рисков не было. Хотя у нас была картинка с рукой врача на рекламе. Ну сами понимаете 🙃

Надо фиксить.
1. Начала с уменьшения базы до 2000 строк, потому что примерно такой объём мы ожидаем получить для бота
➡️ ноль увеличения скорости. Ладно, ждём векторизованную базу.
2. Поменяла модель распознования на qwen ➡️стало лучше но не разительно. Зато время уменьшилось с 2 минут до 20 секунд.

3. ВНИМАНИЕ ТЕМПЕРАТУРА. Прикольно вспоминать все, чему тебя учили на курсе Рунетлекс Академии.

Вот ключик к решению задачи. При распознавание изображения она была выкручена на максимальный уровень - 1. На gpt ее нельзя уменьшить до десятых значений. Техническая проблема.
Оставили qwen с температурой 0.1 и результат на 6 картинках был отличный.

Ну что? Идём дальше. Сегодня ИТ планирует передать в руки юристов песочницу для первичной проверки рекламы.