🧠📱На этой неделе Google представил новую нейросеть Gemini. У неё есть три версии: Ultra, Pro и Nano. Всё внимание приковано именно к Ultra, и это неудивительно — Google утверждает, что эта модель отвечает качественнее, чем GPT-4. Гораздо меньше внимания привлекла Gemini Nano, которая создана для мобильных устройств и может работать на них без подключения к интернету. Объясняем, зачем создают локальные языковые модели и что они умеют.

Как нейросети работают сейчас?
Обычно генеративные нейросети разворачивают в облаке — на серверах, имеющих достаточно вычислительных мощностей. Поэтому почти все приложения, сервисы и устройства, работающие на базе нейросетей, требуют подключения к интернету. Например, когда пользователь активирует навык Алисы «Давай придумаем», его запрос отправляется на сервер и обрабатывается там. Но если нейросеть сравнительно небольшая, её можно запустить на компьютере или смартфоне.

Для чего это нужно?
У таких нейросетей несколько преимуществ: они работают без интернета, быстрее обрабатывают запросы, а введённые данные не покидают локальное устройство. Но нейросети, способные работать на смартфонах и обычных компьютерах, намного меньше облачных, а значит, работают заметно хуже.

Что умеют такие нейросети?
То же, что и большие, вопрос лишь в качестве. Например, Gemini Nano уже работает на Google Pixel 8 Pro и может анализировать и суммаризировать диктофонные записи или предложить ответ для диалога в мессенджере. А в следующем году Google обещает добавить Gemini Nano в своего голосового ассистента на смартфонах.

Где могут работать такие нейросети?
Лучше всего для запуска нейросетей подходят компьютеры с дискретной видеокартой. Для них есть программы, способные запускать открытые модели. А в последние месяцы Google и производители мобильных чипов развивают это направление в смартфонах — Gemini Nano в будущем станет частью Android, а у Qualcomm и Mediatek есть мобильные процессоры, способные запускать даже более мощные модели.

Подписывайтесь 👉@techno_yandex