当时，在东北特别在黑龙江省另有一部分中国军队。1931年10月10日，张学良电令部下黑河戒备司令兼步兵第二旅旅长马占山（吉林怀德人）为黑龙江省代理省主席兼军事总批示。马占山受命后，没有履行蒋介石“不予抵当”的号令，决然构造了嫩江桥的阻击战，中国官兵在优势前提下与日军浴血奋战，给侵犯者以沉重打击。1932年2月，日军以答应黑龙江自治为前提，诱使马占山赴沈阳插手伪满洲国“建国”筹办集会，出任伪黑龙江省省长职。马占山从沈阳到长春后，体味到日军拔擢傀儡的本相，遂于4月2日潜回黑河，重整旧部，构造保卫团和公众义勇军，建立黑龙江抗日救国军总司令部。5月14日，马占山在黑河召开出征誓师大会，随后军队南下，于5月28日达到海伦，与北犯的日军展开苦战，但终因寡不敌众而失利，马占山带领少数人马退入苏联境内。