Меня все больше интересует, сколько стоит довести ИИ до реальной автоматизации бизнеса?
Внутри одного процесса могут быть десятки маленьких решений: определить срочность заявки, выбрать нужный отдел, оценить ответ, передать сложный случай человеку. И каждое требует времени и денег.
На этом фоне появилась любопытная модель JEV от TypeSafe AI, заточенная под быстрые решения.
Даете ей данные и вопросы с заданными вариантами ответа. Она выбирает подходящие варианты и возвращает оценки уверенности. Несколько вопросов можно обработать за один запрос.
Ответ занимает 70-500 миллисекунд, а миллион входных токенов стоит 4,2 цента. Это в сотни раз быстрее и дешевле, чем классические LLM модели.
Представьте поддержку: приходит сообщение клиента, и система сразу оценивает тему, срочность и необходимость подключить сотрудника. На тысячах обращений скорость и стоимость таких проверок уже имеют значение.
Второе важное применение - работа с интерфейсами в режиме Computer Use. Может быстро принимает, куда именно стоит нажать для выполнения целевого действия, тратя при этом в тысячи раз меньше токенов.
Мне кажется, удешевление этих маленьких решений может открыть дорогу к гораздо более массовой автоматизации. При этом качество выбора все равно нужно проверять на своих задачах.
Записал обзор возможностей JEV. Если интересуетесь ИИ-агентами и применением нейросетей в бизнесе, посмотрите:
https://youtu.be/YXwqACMHGRo
Поддержите лайком, если тема полезна. И напишите, где бы вы применили такую модель.
Post #192
1.12K