Наверное, вы уже слышали про новую ИИшку – Jev. Сами авторы (компания TypeSafe) называют это новым классом ИИ — System One Models. Название двойное: «System One» — отсылка к быстрому интуитивному мышлению по Канеману, «Jev» — к парадоксу Джевонса (чем дешевле ресурс, тем больше его потребляют).
Jev не генерирует текст. На вход подаётся «состояние» (письмо, тикет, строка логов) и вопросы с заранее заданными вариантами ответа. На выходе — выбор, оценка по шкале или «да/нет» с откалиброванной вероятностью. Ответить вне схемы модель не может. Ошибиться может, выдумать несуществующую категорию — нет.
Зачем это нужно? Большая часть «ИИ-автоматизации» — рутинные решения: фишинг или спам, какой команде отдать тикет, срочный ли алерт. Под них сейчас гоняют большие reasoning-модели. Реальный пример от коллег: классификация письма из ханипота на локальной GLM 5.3 Flash на двух DGX Spark занимает в среднем около 70 секунд. Хотя всё что нужно на выходе — одна метка из десяти.
По данным создателей Jev, фронтирным моделям на такой ответ нужно от 3 до 329 секунд, Jev — 70–500 миллисекунд. Цена — $0.042 за миллион входных токенов, выход бесплатно. Вендор обещает скорость в 20–200 раз выше и цену в 40–400 раз ниже, чем у LLM, при точности около 68% на собственном бенчмарке. Это вполне себе уровень моделей среднего класса.
Но есть мнение, и я с ним соглашусь, что у TypeSafe как компании, на мой взгляд, нет будущего.
Идея хорошая, но повторить её слишком легко. Через три дня после Jev вышла Laya —open source на 421 млн параметров. По её замерам — 32,8 мс на ответ против 236–276 мс у Jev. В демо на MacBook Air с 16 ГБ она принимала решения в 11 раз быстрее облачного Jev, а сборка под CoreML на M5 Pro укладывается в 3,7 мс. Следом пошли её дообученные версии, в том числе под SOC-алерты, и обёртки для маленьких моделей Qwen, которые делают то же самое.
А дальше произойдёт то, что всегда происходит с удачной фичей: крупные лаборатории встроят такой режим в свои API. Structured output у них уже есть, осталось добавить калиброванные вероятности. Платить отдельному стартапу за то, что лежит бесплатно в open source и скоро будет в модели, которой вы и так пользуетесь, будет незачем.
System One — не новый класс ИИ, а новый режим работы, которому суждено стать стандартом. Технология переживёт компанию, которая её придумала.
@gostev_future
Post #509
274
- 👍 5
- 🔥 2
- 👏 1