Языковая модель, нормально работающая локально на смартфоне — это и должно быть светлое будущее образца 2024.
Да, пока только на топовом железе и с ограничениями: суммаризатор для записанного диктофоном разговора требует не меньше минуты — но и не больше 15 минут речи, причем на приличные темы :) Но если условия выполнены, Gemini Nano позволит получить пользователям Pixel 8 Pro текстовую выжимку записанной речи.
В итоге и железо подтянется, и другие компактные модели появятся — и все больше прелестей генеративного ИИ не будет требовать обращения к серверам со всеми вытекающими проблемами. И вот тогда-то устройства реально сильно поумнеют, в том числе на уровне ОС, и это будет интересный прорыв в несколько застоявшихся смартфонах.
Post #6576
361
