OpenAI представила новую модель — GPT-4o-mini. Это "малая модель", которая приходит на замену GPT-3.5, при этом по ряду тестов обходя даже GPT-4. Важно отметить, что она быстрая и очень дешевая — хотя GPT-4o сама по себе недорогая, но её мини-вариант в 33 раза дешевле, а уступает по качеству совсем немного.

Правда, окно контекста там по-прежнему 128к токенов, но это все же малая модель и её роль в другом — дать возможность строить огромное количество приложений, практически не ограничивая себя расходами на запросы к GPT. Будет интересно потестировать на стандартных чатботных задачах типа чатов поддержки.

https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/