在扫荡之初，在山东的尾高龟藏之第12军其所辖军队，计有驻徐州的鹫津铅平的第21师团，驻兖州的末松茂治第114师团，驻青岛的今村均之第5师团。以及担负治安任务的驻青岛之独立混成第5旅团。别的另有日本海内新编成师团中之第32师团、独立混成第6、第10旅团也调至山东，合计共有4个师团又3个独立混成旅团。
就在马铮所部在察北翻江倒海的时候，八路军其他各部在冀南实施的反扫荡也获得了不小的停顿。2月中旬当第10师团和第110师团对冀南构成合围势态后，阿部规秀的26师团一部从津浦路上的泊镇、末松茂治的第114师团在山东省德州聊城的一部，前后出意向西推动，以策应第10师团以落第110的打击。
其次，第5师团以约两个步兵大队，从灌河口溯航至响水口西南约25千米的新安镇四周集结。以1个步兵大队进至大伊山镇四周，随时筹办夹攻海州，主力则筹办打击淮阴。另以两个步兵中队、1个炮兵中队，进至海州以北约30千米的赣榆，作打击海州之筹办。
对于第12军在山东的扫荡杉山元很对劲，不但致电嘉奖第12军所部，乃至于还亲临济南为第12军泄气。这也让在察北吃了大亏的杉山元扳回一城，但总的来讲杉山元还是感觉本身吃了大亏。
与此同时。日军第12军在山东、苏北以及豫东也策动了大范围的扫荡作战。比拟于冀南以及冀中的艰巨，山东的日军的战果就光辉的多了。
尾高龟藏所部得知在鲁南山区驻有5至7万抗日军队，即百姓党山东省主席沈鸿烈所率原青岛之水兵陆战队一部，山东省保安队及吴化文之新编第4旅、石友三69军、于学中第51军之周光烈第113师、牟中衍的第114师、东北军第57军以及在泗水地区建立了按照地的共产党所带领的八路军。随即制定了扫荡鲁南苏北的作战打算，并与2月中旬开端实施。
此时在冀南的八路军第129师，已将所属385旅、386旅、青年纵旅、东进纵旅、先遣纵队等，与处所武装分红多少个作战个人。在敌合击时，这些军队事前已越出包抄圈，转至日军的侧后，攻击了冀县、枣强东北方向的武邑、阜城、景县和冀县以南的清河，并在德石路的衡水以西战役汉路上的高邑四周伏击仇敌，以停止管束和粉碎其补给运输。一部还对冀县、南宫、巨鹿、广宗之敌停止攻击。
日军遭到多次打击后，又以冀中的南宫、巨鹿、威县、广宗等地为重点，停止分区扫荡。129师一部与处所武装及公众相共同，在外线停止游击战，主力则转移至外线。
在占据和节制各地后，即派出窥伺职员汇集谍报逼迫公众修复被粉碎的公路、修建据点和围墙及望楼，开挖据点核心的水壕并敷设铁丝网和鹿砦。与此同时，推行伪化与停止分区扫荡，寻觅埋没于其占据区内的抗日军队作战。偶然还筹办一支矫捷军队，随时听令出动，发明环境后，当即派出停止追踪进犯。
别的还以第114师团约以步兵1个大队、炮兵1叶中队，进步至临沂去海州门路上的山东省境内一带。并以主力一部占据临沂以南约50千米的郯城四周地区，以保护第21师团左边后的安然。
按照日军在扫荡时的这些作战特性，八路军129师的386旅决定在威县以南约20千米的香城固地区设伏。以毁灭追击之日军。386旅以及东进纵队第三团，新编第1团和115师的688团各一部，在威县以后，主力每夜均攻入威县城内然后撤出。以诱敌第10师团的军队追击至预定设伏地区。