山东日军12军将1941年度“肃正”区的重点确定津浦路东、胶济路南山区的抗日根据。9月中旬至10月旬，日军首先沂蒙山区周围的泰山区邦城、码头区进行“扫荡”，并积极策划11月初始鲁中沂蒙山区抗日根据进行规模的“扫荡”，企图一举消灭山东区的中共党政军领导机关八路军主力，摧毁沂蒙山区抗日根据。其参战兵力，除12军主力（17、21、32师团独立混5、6、7、10旅团）外，有日华北方面军配属的36师团、独立混3、4、9旅团各一部，总兵力5万余人。是抗日战争期，日军山东敌抗日根据动的规模最的一次“扫荡”。
10月底，日军向沂蒙山周围区集结。其部署是：32师团独立混10旅团主力集结新泰、蒙、平邑、费县区；21师团、独立混5、6旅团主力集结沂水、莒县区；17师团主力、36师团一部集结临沂区，沂蒙山区构合围态势。
了巩固山东抗日根据，加强山东区的军政领寻统一战指挥，中共中央中央军委9月13日指示，山东纵队、115师军政委员合组山东军政委员，罗荣桓任书记，山东纵队归115师首长指挥。
10月7日，山东军政委员根据日军鲁中“扫荡”的动向紧急指示，指敌有集中更优势兵力，沂蒙区中，山东进行长期“扫荡”的，求全区党政军民紧急动员，展全面的群众的游击战争，采取内外线相结合的方针进行反“扫荡”战。13日，115师反“扫荡”战准备的指示，求军区、军分区立即划定方武装及游击组的战域；所有党政军机关有计划分散，加强反“扫荡”斗争的领导，主力部队灵活袭击敌翼侧方通线与据点。
11月2日，山东军政委员针日军的合围企图决定：中共山东分局115师直属队适转移至鲁南区；山东纵队直属队转向泰山区；山东纵队1旅主力转向敌合围圈外围，待机战；抗1分校转向泰安、泗水、宁阳区，鲁中军区及备军分区县区武装就领导民兵坚持斗争；活动鲁中区附近的教导1旅山东纵队2、3、4、5旅等部，分别在滨海南部北部、胶济路沿线及新泰东烟台一带，积极展攻势，配合沂蒙山区反“扫荡”战。
11月2日，日军始向沂蒙山区压缩封锁，北面日军400余人4日拂晓偷袭驻马牧他的山东纵队指挥机关。山东纵队指挥机关遂分散向东转移，至沂水西北的南墙峪，复遭日军合围，经激战，转移至新泰西南石莱一带，跳日军的合围圈。
5日拂晓，日军12军主力由四面一始进攻。其中，日军2万余人的兵力，在飞机、坦克配合，分11路向中共山东分局、115师师部等领导机关所在区进行合围，并重兵由北向南进攻。同，根据往“扫荡”八路军向滨海区转移的规律，在沂河沿岸河阳、葛沟一带预伏重兵，布口袋，企图待八路军向东转移予围歼；在西面津浦路，构筑碉堡，加强戒备，防止八路军西撤。面日军的“铁筒包围阵”，115师首长决定向西南方向突围，转移至日军兵力较薄弱的费县东北区。
5日黄昏，中共山东分局八路军115师等领导机关5000余人，在仅有1营兵力的掩护始突围。6日拂晓，顺利从留田西南铁山子附近东西不1.5公的间隙中，迅速隐蔽通一封锁线；接着，又在一25公的间隙中，隐蔽通了二封锁线，安全达蒙山南端的护山庄区，跳了日军的合围圈。
日军合围扑空，即一部兵力在根据内建立临据点，根据基本区实行严密的分割封锁，其主力则继续寻找八路军主力战。8、9两日，日军一部合击芦山，鲁中军区司令部遭袭击，军区司令员刘海涛牺牲。
12日，进入鲁中沂蒙山抗日根据的日军转入分区“清剿”，将沂蒙山抗日根据分4“清剿”区：一是南墙峪中的北蒙山区，一是孙祖中的南蒙山区，两区“清剿”的重点；其次是铜井、界湖中的东蒙山区朱满中的西蒙山区。日军每“清剿”一，即挨户搜查根据的党政干部失散人员及伤病员，根据基本区实行“三光”政策。许村庄被洗劫一空，批村庄被烧一片废墟。日军赶修临公路网，严密分割封锁根据，限制八路军主力机动，长期控制沂蒙山区准备。
粉碎日军的“清剿”，保卫根据，115师除令教导2旅、山东纵队2旅主力在外线滨海区积极破袭日军公路、据点外，中共山东分局115师师部又率山东纵队2旅、蒙山支队、抗1分校各一部返回沂蒙基本区，配合游击队民兵，打击日军的“清剿”、“搜剿”分队，镇压汉奸，支援广群众在内线坚持斗争。
14日，日军集中7000亲人兵力，反复合击蒙山西部区。判明日军“扫荡”动向，中共山东分局115师领导机关进至东西蒙山间的谷台。17日午，日军从空中侦察现，即谷台进行合击，中共山东分局115师领寻机关遂东越临（沂）蒙（）公路，进入沂蒙山基本区的北材，指挥内线部队在垛庄、绿云山等，伏击、袭击，阻击等战术打击分散“清剿”敌。同，抽调批干部分赴各，领导群众展抗日游击战争。
30日，中共山东分局115师领导机关转移至谷台南青山遭日军合击，受很损失，山东省战工委员秘书长陈明、115师敌工部副部长王立人、国际友人德国记者希伯、山东纵队直属3团政治委员刘涛等牺牲。
12月4日，115师直属队及蒙山支队又在瓦城子一带再次遭合击。了保障安全不问断指挥战，中共山东分局115师领导机关遂再次转向外线，进入宝山区，内线战部队由迟回坦埠区的山东纵队统一指挥。12月11日，山东纵队领导机关在蒙东的高湖区遭日军合击，山东纵队宣传部长刘子超等牺牲。
12月旬，日军12军除留少数部队建立据点，扶植伪军，巩固其占领区外，部分兵力分别宝山滨海区进行“扫荡”，掩护其主力撤退。根据军民广泛的群众游击战不断袭击残留在根据内的日伪军。23日，日军主力分路撤退，八路军乘机反击，收复村镇。至28日，基本恢复沂蒙山区抗日根据，反“扫荡”战结束。
在将近2月的反“扫荡”中，八路军共战150余次，歼敌2000余人，打破了日军的“铁壁合围”，保存了有生力量，坚持了沂蒙山区的抗日斗争。但根据军民付了重代价。八路军伤亡1400余人，群众被杀害或被抓走1.4万余人，损失粮食160余万斤，基本区四分一的房屋被烧毁经此次“扫荡”，日军将台（儿庄）潍（坊）、临（沂）蒙（）、沂（水）临（沂）等公路打通，在沂蒙区增加了近70据点，从构八路军根据的严密分割封锁。