Мы с GPT-6 Astra долго размышляли и я придумал революционную вещь из первых принципов
Ключевые проблемы LLM:
- Промпты можно проинтерпретировать неоднозначно, существует много решений для одного промпта и агент не может установить какое именно требует пользователь.
- Результат не детерменирован, поэтому даже при запуске одного и того же промпта может быть много разных результатов.
Первое делает результат неоднозначным, а второе не позволяет сделать его стабильным. Мы решаем это тратя больше попыток, то есть сжигая токены, что очень дорого.
Решение в том, чтобы ограничить промпты. Нужно, чтобы промпты состояли не из произвольных конструкций, а из заготовок: "И", "ИЛИ", "ЕСЛИ" и так далее.
В таком случае скиллы тоже могут быть не свободными промптами, а переиспользуемыми кусочками логики, которые получают на вход некие настройки и делают ровно то, что нужно. Что-то вроде "СКИЛЛ(ВХОД1, ВХОД2)". Любой скилл становится просто очереднвм тулколлом для модели. Чтобы было проще делать агентов, можно сразу в этот язык встроить лупы: "ЦИКЛ(СКИЛЛ, УСЛОВИЕ ОСТАНОВКИ)"
Самое главное, что можно обратиться к работам советских ученых и построить этот язык промптов на рекурсивных грамматиках. Тогда все эти конструкции можно комбинировать. Возможно представить результат любой сложности в виде промпта! Вместо написания простыней маркдауна можно будет собирать результат как конструктор.
Если так же сделать результат исполнения промпта строго однозначным, то можно будет верифицировать его и итеративно улучшать качество решения, а не каждый раз начинать заново. Можно будет добавить кеширование и какой-то упрощённый формат промпта, который можно будет сохранить на диск и передавать для воспроизведения на другом компьютере.
Со всеми этими компонентами, моделям потребуется гораздо меньше параметров, ведь им больше не придётся разбирать интент пользователя: интент будет описан явно! Модели буду работать намного быстрее и дешевле.
Я сейчас занимаюсь разработкой MVP этой системы. Рабочее название: Язык Промптов (ЯП). Я уверен, что за этим будущее. Если интересны инвестиции, пишите в лс.
Post #4089
6.41K
- 🔥 26
- ❤ 8
- 👍 8
- 👎 4
- 🤔 2