1934年10月，第二軍隸屬駐閩綏靖公署，並將駐閩綏靖公署第八十師撥歸第二軍建制。爆發的蔣唐戰爭，鎮守武漢。1937年後，投入抗日戰場。9月，第二軍由福建開赴上海，隸屬國民革命軍第四集團軍，參加淞滬戰役。