Ну что, продолжаем, первая часть выше.
После того как мы выбрали модель для задачи, возникает вечный вопрос: как ускорить ответ ии-модели?
Любой чатгпт ответит вам на этот вопрос однозначно - дообучение модели (Lora ). Но это только потому что этот маленький негодник смотрит на статьи 2023-2025 годов когда это действительно было решением. Сейчас, в сентябре 2026 никто уже этим не пользуется.
А пользуются готовыми моделями и умным подходом. Мой подход: triggers.json - определяем триггер-слова для каждой статьи КоАП РФ. Например: "арм" - корень слова "армия" - триггер статьи о дискредитации. Таким образом, мы не спрашиваем модель на каждый новый символ "А есть ли тут состав нарушения этих 80 статей УК", и не делаем из телефона обогреватель, а реагируем только на конкретные триггеры.
Но что делать если фраза была: "Наша армия лучшая в мире!". Триггер на корень "арм" работает - но здесь же нет дискредитации? Тут в дело вступает наша ИИ-модель, которая получает на вход фразу и предполагаемую статью и определяет, содержится ли внутри состав преступления.
Подписывайтесь, завтра расскажу как научить ИИ, что Крым - это Россия и утверждать иначе это нарушение территориальной целостности.
Post #43
2.19K
- 👍 6
- 🔥 5
- ❤ 4
- 😁 3