Компактный формат сериализации специально для LLM-ок для экономии токенов и улучшения качества работы - TOON (Token-Oriented Object Notation)

Было
{
"users": [
{ "id": 1, "name": "Alice", "role": "admin" },
{ "id": 2, "name": "Bob", "role": "user" }
]
}

Стало
users[2]{id,name,role}:
1,Alice,admin
2,Bob,user

Экономит до двух раз по сравнению с JSON/XML, при этом качество не теряется, а на некоторых LLM даже выше. Тестировали на TOON, CSV, XML, YAML, JSON, JSON Compact.

Реализация для PHP: https://github.com/HelgeSverre/toon-php

Личный опыт: в реальной задаче столкнулся с нехваткой окна контекста для анализа данных отправляемых из бизнес приложения в LLM. Про TOON на тот момент ничего не знал и перешел на отправку данных в LLM в формате csv везде где можно.