Не сложный видос про разворачивание крохотной Gemma-4 на raspberry pi 5, рейт низкий но все равно забавно что это на ютубе столько просмотров собирает, прорывается в мейнстрим.
Скромные LLM приложения на локальном железе станут мейнстримом, огромные облачные LLM станут другими продуктами когда субсидии от инвесторов закончатся, будут нишевыми системами для батч обработки или узкого ресерча.
"Сколько варить яйца" будет отвечать локальная модель, просто потому что это энергетически эффективнее и позволяет утилизацию железа поднять.
Post #348
400