Rukallama успешно прошла процесс подключения ALU-Нейронов Поповича (моя разработка, это моя фамилия).
Теперь детерминированный счёт от стохастической модели - возможен и без запуска выражения в питоне, на которое тоже надо тратить токены или что-то такое. Очень хитрый LORA-адаптер спас положение и Rukallama стала решать арифметику, физику и химию ОЧЕНЬ ХОРОШО!
Сейчас решается вопрос с GRPO/RVLR чтобы довести LORA-адаптер №2 (для косвенных мат задач или обыденная формулировка), чтобы чётко разделялись сущности, операнды из обычной речи. И можно было во время разговора спокойно делать важные вам расчёты.
Rukallama теперь умеет в абсолютно точный JSON - Благодаря хитростям инференса в самих слоях модели. Очень помогают бумаги в интернете.
Самое интересное, что мои старания по адаптации True-KAN , таки, возноградились тем, что адаптация под научные статьи, с конкретными решениями проблем модели: самоповторы, забывание контекста, разделение ролей - РАБОТАЕТ НА 100%.
Главное - найти рабочий метод, проанализировать, адаптировать.
Агенты хороши! НО! Если ты доверяешь всё агентам без контроля, не проверяешь результат и не уточняешь какие конкретные действия были произведены и не просматриваешь код - для тебя такого есть очень плохие новости... Агент не сделает то, что ты хотел и к чему стремился, даже при условии спецификаций.
Тут уже нужны обвязки, в которые затаскивают стохастические модели как в упряжку, а она упряжка/обвязка делает модель более детерминированной по вашей конкретной задаче.
Создание сложных фреймворков для General-Purpose....ох...про это завтра (точнее сегодня - 24 сентября) БУДЕТ ЖЁСТКИЙ ПОСТ! Со ссылками и контактами - всё как надо. Увидите...там мои кореша такое учудили...
Post #4679
1.44K
- 👍 68
- ❤ 15
- 🔥 12
- 👏 8
- 😱 2
- 🕊 2
- 🤔 1