俗话说乱世出英雄。马五起事，完全是时世所逼。马五读过几年私塾，后经熟人介绍到广东陆军学堂读书，加入了国民**军，参加了北伐战争，打了汀泗桥和贺胜桥等几场恶战，因军功突出被提升为国民**军第四军第三营副营长，隶属于北伐名将叶挺的第二十五师。因马五长得骨骼清奇、文质彬彬，平日说话又经常咬文嚼字、引经据典，是当时军中少有的儒将。

但儒将并不文弱，相反打起战来不畏生死，敢于守正出奇。在攻打湖北咸宁汀泗桥战役中，在正面部队进攻受阻后，他果断建议叶挺率部翻越大山出其不意攻敌侧背，大败守敌，并乘胜追击20余公里，夺取咸宁县城。继而参加进攻吴佩孚亲率重兵据守的贺胜桥，被部署到先发主力营，担任攻坚任务，很快突破敌军桃林铺防线，揳入其防御纵深，在所部三面受敌的情况下，临危不乱、沉着应战，严令部队集中所有兵力主攻一点、各个击破，接连突破印斗山、铁路桥等敌军核心阵地，最终以较小的伤亡代价占领贺胜桥。因此战后深得时任副师长的叶挺和军长张发奎的喜爱。

同时马五因信奉儒学，为人讲究仁孝忠义，在大是大非面前从不妥协。

1927年以蒋介石为代表的国民党**发动反**军事政变，开始清党**。尤其是南昌起义和广州起义失败后，开始大举清洗国民党中的**党员，一时间血雨腥风笼罩在每一个军人面前，叶挺当时已经调任第十一军副军长，因参加了这两次起义被迫转移到了香港，又经香港、马来西亚、日本至苏联。马五不满国民党**的极端政策，不愿中国人打中国人，同时因叶挺等一大批有识之士要么遭到迫害，要么**出走，在此情势下，深感报国无门，于是毅然离开部队，回到老家池州乡下。