Пришли уточнения к посту о Влиянии железа на результаты работы нейросетей😃
UnknownUsers
Ну не совсем.
1. Если памяти гпу не хватает, то вполне часть слоев можно крутить на процессоре в оперативной памяти. Например при использовании LLM studio.
2. Влияние железа на ответы есть, но в этом случае они настолько незначительно, что можно считать что их нет. Существует такая штука как коррекция ошибок, одна из причин существования линеек профессиональных видеокарт.