Следующая же мысль, которая у меня появилась - что установка приложения - лишний этап. Ведь мы привыкли все использовать в браузере, и браузер ужа давно похож на полноценную операционную систему. Мысль такая: нужен веб интерфейс, который скачивает веса нейронки, сохраняет в кэше браузера и с помощью WebGPU или чего-то в этом стиле просто запускает все прямо в браузере. Вот, кстати, пример такой штуки.