Александр Михайлович Василевский родился (18) 30 сентября 1895 года в Костромской губернии, в семье священника. Обучался мальчик в церковно-приходской школе, затем в духовном училище и поступил в Костромскую духовную семинарию.

В связи с наступлением Первой мировой войны, Александр в 1915 году окончил Алексеевское военное училище и в чине прапорщика был направлен на фронт. После Октябрьской революции Василевский принимает решение оставить военную службу. Он увольняется в отпуск и уезжает к родителям, где занимается сельским хозяйством и работает учителем в начальных школах.
В 1919 году Василевский был призван в Красную Армию. За сравнительно короткий срок участия в Гражданской войне он, начав с помощника командира взвода, быстро вырос в должности до командира полка. Сражался против банд, участвовал в осуществлении продразверстки и в польской кампании. С 1931 года он служил в Управлении боевой подготовки РККА, принимал участие в организации учений, в разработке Инструкции по ведению боев.