Современные большие языковые модели требуют для работы сотен гигабайт памяти и специализированной внушительной аппаратной части. Но современные носимые устройства с ИИ-функциями — наушники, очки и кулоны — весят 5–6 граммов и работают от батареи несколько часов. Между этими двумя реальностями — целый пласт инженерных задач и решений, которые в Google сейчас называют главным вызовом отрасли.
Носимый ИИ — новая категория потребительских устройств с нейросетями, встроенными непосредственно в гаджет, который ранее не подразумевал наличие таких функций. На рынке уже представлены смарт-очки (Ray-Ban от Meta, признанной экстремистской и запрещенной в РФ), наушники (Google Pixel Buds с ассистентом Gemini, «Яндекс Дропс» с Алисой AI), клипсы-диктофоны (Bee), смарт-кольца (Oura), кулоны и др.
Рынок носимого ИИ при этом растет быстрее большинства сегментов потребительской электроники. По прогнозу Fortune Business Insights, его объем вырастет с $62,7 млрд в 2024 году до $359,3 млрд к 2034-му — за счет развития мониторинга здоровья, edge AI и мультимодальных ассистентов.
В индустрии нет единого мнения, какой из форматов для пользователей станет основным. Глава Qualcomm Кристиано Амон заявил, что компания разрабатывает более 40 носимых ИИ-устройств — от украшений до наушников с камерами: в Qualcomm считают, что следующей вычислительной платформой станет не телефон. IDC ожидает, что в ближайшей перспективе рост рынка обеспечат очки без дисплея: за год продажи смарт-очков Ray-Ban от запрещенной Meta выросли более чем втрое, а число проданных устройств превысило 7 млн.
Основным пользовательским интерфейсом для ИИ в ближайшие годы могут стать наушники, а не умные очки. <…>
«Установить работающую нейросеть в носимое устройство — задача не про «сжатие», а про инженерию под жесткие ограничения по памяти и энергопотреблению», — говорит ведущий инженер-программист НОЦ ФНС России и МГТУ им. Н. Э. Баумана Николай Калуцкий.
По его словам, следующий барьер — тепловыделение и риск перегрева.
«Например, серверный ускоритель A100 выделяет до 400 Вт тепла, и чтобы избежать ожогов, мощность устройства приходится искусственно ограничивать — до 70% от номинала, поэтому перенести всю модель на носимое устройство невозможно. В такой архитектуре на устройстве целесообразно оставлять только функции управления нейросетью, без выполнения тяжелых вычислений — они делегируются на сервер. При этом чем меньше корпус, тем меньше места для аккумулятора и тем острее конкуренция между вычислительной мощностью и временем автономной работы. Добавляется и конкуренция за энергопотребление: помимо ИИ-модуля, устройство оснащается Wi-Fi, Bluetooth и другими модулями, каждый из которых потребляет энергию», — отмечает Калуцкий.