Браузерный API для использования локального LLM на базе Gemini Nano для простых задач, без необходимости во внешнем API: классификация, извлечение данных, подсказки, summary, работа с контекстом страницы.
В Chrome Extensions API уже доступен с Chrome 138, для обычных сайтов пока через флаги.
Safari и Mozilla его не поддержали, поэтому эта история только про Chrome.
Звучит хайпово, позволяет делать продукты с LLM полностью на клиенте с нулевыми затратами.
Каждый второй калькулятор:
await session.prompt("Сложи a и b. Верни число.");👉 Подписаться | 🚀 Дать boost