📩 В связи с прошедшим во вторник Днем Земли интересный релиз от разработчиков из HF Julien Delavande et al: счетчик электроэнергии, потраченной LLM на ответ пользователю.
ChatUI-energy является надстройкой над интерфейсом Chat UI, повсеместно используемым для взаимодействия с Open Source/Open Weight моделями. Она позволяет сравнить расход энергии между разными моделями, масштабирование по размеру запроса/контекста или при задействовании имитации рассуждений (reasoning).
📌 Комментарий экспертов Центра ИИ МГИМО:
Разработчики не заявляют об абсолютной точности, что намного уместнее, чем претензии на истинность и, как часто следует, моральное превосходство на социально-экологической почве.
В любом случае, такие инструменты могут быть полезным напоминанием о цене работы с ИИ для рядового пользователя, а для корпоративного - помогут с оптимизацией расходов на вычисления.
Post #1366
761
- 👨💻 5
- 👍 4
- 👌 3