Машинное обучение RU: “💡 Простой трюк экономит до 50% стоимости работы LLM Секрет

💡 Простой трюк экономит до 50% стоимости работы LLM

Секрет - перестать использовать JSON и перейти на TOON (Token-Oriented Object Notation).

TOON сокращает количество токенов на 30–60% при тех же данных и остаётся полностью читаемым.

TOON идеально подходит для таблиц - массивов с одинаковыми полями в каждой строке. Это гибрид YAML (отступы) и CSV (структура), где синтаксис минимален, а лишние символы отсутствуют.

Пример.


JSON:
{
  "users": [
    { "id": 1, "name": "Alice", "role": "admin" },
    { "id": 2, "name": "Bob", "role": "user" }
  ]
}


TOON:
users[2]{id,name,role}:
  1,Alice,admin
  2,Bob,user

Сразу видно: та же информация занимает гораздо меньше токенов.

Ключевые особенности:
- 30–60% меньше токенов
- Идеальный микс YAML и CSV
- Явная валидация: длина и поля задаются прямо в заголовке
- Минимальный синтаксис — никакой лишней пунктуации

Важно: для сильно вложенных и неоднородных структур JSON всё ещё может быть лучше.

TOON уже показывает стабильное снижение стоимости и рост точности извлечения данных у разных LLM.
Где бы это могло пригодиться в твоём процессе?

github.com/toon-format/toon