OpenAI прискорила GPT-6.1 Sol у вісім разів

OpenAI розширила набір інструментів для тих, кому потрібна швидка робота штучного інтелекту. Для GPT-6.1 Sol з’явився режим Ultrafast, який прискорює відповіді до 8 разів, але коштує значно дорожче. Окремо компанія відкрила публічну бету Decisions API, призначеного для швидких простих рішень.

Новий режим доступний в API, Codex і ChatGPT Work. Найбільше він допомагає в Codex: до 8 разів швидше, ніж у стандартному режимі. Для розробників це означає менше очікування під час написання коду, пошуку помилок і тестування змін. В API Ultrafast скорочує затримки, з якими агенти виконують робочі процеси.

Щоб увімкнути режим в API, у запиті потрібно вказати service_tier зі значенням ultrafast. OpenAI також радить використовувати постійні WebSocket-з’єднання, які зменшують мережеві накладні витрати й дозволяють отримати від режиму максимум. Читати далі на Highload 👉

Facebook | LinkedIn | X | Додати в Google