Друзі, дивіться, що ми знайшли 👀

Є цікавий спосіб зекономити до 60% токенів при роботі з AI-моделями 🤯

Суть у тому, що замість того, щоб передавати моделі величезні обсяги тексту (системні промпти, документацію чи контекст), їх можна перетворити на зображення. І тут починається найцікавіше 👇

Мультимодальні моделі читають такі зображення доволі ефективно, а оплата йде за роздільну здатність картинки, а не за кількість тексту всередині. Тобто великий шматок тексту можна буквально «запакувати» в PNG і суттєво скоротити витрати.

Для цього використовують інструмент pxpipe:
▫️ конвертує промпти, документацію та старий контекст у зображення;
▫️ залишає нові повідомлення у звичайному текстовому форматі;
▫️ допомагає зменшити витрати на токени приблизно на 60–70% залежно від задачі.

За словами автора, в одному з прикладів вартість сесії вдалося знизити з $42 до $6 без помітної втрати якості роботи моделі.
Ділимося знахідкою, бо тема справді цікава 🔥

Автор: Павло Лисий 🙌

TikTok | Instagram | Telegram