Основатель стартапа TypeSafe AI Диогу Алмейда, ранее участвовавший в исследованиях OpenAI, лежащих в основе ChatGPT, представил новый класс систем под названием System One Models и первую публичную модель Jev, доступную в раннем доступе. Главная идея проекта заключается в преодолении барьера между текстовыми диалоговыми моделями и практической автоматизацией программного обеспечения. Вместо генерации свободных строк токен за токеном модель работает как вызов функции передового уровня интеллекта, принимая неструктурированные данные и моментально возвращая строго типизированные вероятностные решения.
Технологический стек TypeSafe опирается на параллельный сэмплинг и метод обучения RLCD (Reinforcement Learning for Calibrated Decisions). Отказ от текстовой генерации устраняет саму возможность галлюцинаций в структуре и исключает ошибки несовпадения типов, гарантируя калиброванную оценку уверенности для каждого вывода. За счет одномоментной генерации структуры Jev демонстрирует задержку от 70 до 500 миллисекунд против секунд или минут у традиционных больших языковых моделей, сохраняя сопоставимый уровень точности на задачах классификации, маршрутизации и принятия решений. Ценовая модель ориентирована на масштабную программную интеграцию: стоимость входных токенов составляет $0,042 за миллион, а за выходные токены плата не взимается вовсе.
В бенчмарках на основе реальных программных графов вычислений архитектура показала ускорение до двух порядков при многократном снижении расходов по сравнению с флагманскими моделями вроде серий GPT и Fable. Применимость подхода авторы продемонстрировали на интерактивных сценариях реального времени, включая реактивное управление ботом в игре Doom с частотой около десяти запросов в секунду и скоростное прохождение Wikiracing с выбором среди сотен ветвящихся ссылок без риска сбоев схемы. Сама концепция вдохновлена теорией быстрого интуитивного мышления Даниэля Канемана («Система 1»), а имя Jev отсылает к парадоксу экономиста Уильяма Стэнли Джевонса, подчеркивая веру создателей в то, что резкое удешевление и ускорение вычислений вызовет взрывной рост внедрения ИИ в базовые структуры софта.
Post #1317
425

- 👍 9