🪟 Microsoft начала считать токены даже у своих инженеров

По данным из внутреннего меморандума, Microsoft ограничивает расходы сотрудников на использование AI-инструментов.

✏️ Причина довольно прозаичная: длинные запросы к моделям стоят денег, а в масштабе тысяч разработчиков счёт быстро растёт.

⬇️ Внутри даже обсуждают
⬇️«токенмаксинг» — привычку
⬇️скармливать модели огромный
⬇️контекст, чтобы получить
⬇️результат получше.

AI постепенно проходит тот же путь, что и облака: сначала «используйте сколько хотите», потом появляются квоты, бюджеты и FinOps 🙂

А как у вас на работе ❓

👍 — уже считаем токены и бюджеты
🔥 — пока AI за счёт компании без ограничений

🐸 Библиотека программиста