После войны Борис Михайлович служил в Штабе РККА, командовал военными округами и в 1930 году был принят в партию без кандидатского стажа, став одним из главных советников Сталина по военным вопросам. Борис Михайлович, наряду с Рокоссовским, пользовался уважением Вождя народов и одним из немногих, к кому тот обращался по имени и отчеству.

В 1932-1935 годах Шапошников был руководителем и профессором Военной академии им. М.В.Фрунзе, где он много сделал для подготовки командных кадров. Трижды он возглавлял Генеральный штаб (его еще называют «Патриархом» Генштаба), а в 1940 году Шапошникову было присвоено звание Маршала Советского Союза.

Он внёс значительный вклад в теорию и практику строительства Вооружённых сил СССР, в их укрепление и совершенствование, много и успешно работал над развитием военной науки, над обобщением боевого опыта прошедших войн.

В наиболее известном своем труде «Мозг армии» (1929) Шапошников раскрыл особенности руководства армией, дал чёткое представление о роли, функциях и структуре Генштаба. Правильность его выводов подтвердила Великая Отечественная война. При непосредственном участии Маршала были разработаны важнейшие операции советских войск в 1941-1942 годах.