与日军在中条山地区积极部署的同时，重庆国民政府军事委员会根据“保守要地，力图持久，奠安内部，争取外援”的指导要领，确定了“加强中条山及潼洛工事，积极训练”的战略原则。有鉴于此，4月中旬，参谋总长何应钦到一战区巡视（时任第一战区司令长官卫立煌因拒绝反共摩擦，受胡宗南等人排挤，不见谅于蒋介石，于1941年春到重庆述职后，借故请假逗留峨嵋山未归）。4月18日、20日，在洛阳的第一战区长官部，何应钦连续两次主持召开了由第一、第二、第五战区军以上长官参加的军事会议。根据各方提供的情报，何应钦判断：“晋南之敌，似将逐次夺取我中条山各据点，企图彻底肃清黄河北岸之我军，然后与豫东之敌相呼应，进取洛阳、潼关，以威胁我五战区之侧背，或西向进窥西安。”指示：“为确保中条山，（一）第一步，应相机各以一部由北向南（93军），由东向西（27军），与我中条山阵地右翼各部，合力攻取高平、晋城、阳城、沁水间地区，以恢复廿九年四月前之态势。（二）第二步，与晋西军及第二、第八战区协力，包围晋南三角地带之敌，而歼灭之。（三）最低限度，亦须能确保中条山。”4月28日，国民政府军事委员会进一步做出日军有从济源、横皋大道会犯垣曲企图的判断，决定：（一）加强阵地工事破坏阻塞主阵地前道路；（二）先制出击打破敌之攻势；（三）第二战区晋西部队向同蒲、第五战区汜东部队向陇海牵制策应。在上述判断指导下，中条山地区的国民党jūn_duì主力7个军进行了相应配置：第9军裴昌会部在豫北重镇济源；第43军赵世铃部在山西南端之垣曲；第17军高桂滋部在绛县地区；第3军唐淮源部、第80军孔令恂部在闻喜、夏县地区，第98军武士敏部在董封镇一带，第15军范汉杰部在高平地区。另以4个军配置于太行、太岳地区，作为策应。
1941年5月7日，自感稳操“胜券”的日军，于傍晚时分突然一齐出动，由东、西、北三面“以钳形并配以中央突破之方式”进犯中条山地区。东线，日原田雄吉中将指挥的第35师团主力、田中久一中将指挥的第21师团一部，以及骑兵第4独立旅团一部，约25000余人，在伪军张岚峰、刘彦峰部的配合下，沿道清路西段分三路向济源、孟县进犯。西线，日安达二十三中将指挥的第37师团主力、井关仞中将指挥的第36师团一部、若松平治少将指挥的独立混成第16旅团，约25000余人，自闻喜、夏县东南向张店镇进犯。北线，日清水规矩中将指挥的第41师团及池之上贤吉少将指挥的独立混成第9旅团共约30000余人，以中央突破之闪电战术，由横岭关方面向横垣大道西侧猛攻。东北线，日樱井省三中将指挥的第33师团一部及独立混成第4旅团一部，约万余人，从阳城方面向董封镇一线攻击。第一战区司令长官部根据情报，针对日军分兵合击，袭击我通信联络及各级指挥部；以重兵攻占各交通要点，切断我军联络，各个击破；封锁山口、渡口，逐步紧缩包围圈，完成合击的企图，“于会战前，经以辰东诚电令各部以交通线为目标，加紧游击袭破，妨害敌之攻击准备及兵力集中”。但因战区主帅缺位，上述命令未能得到有效组织施行，致使“会战开始第二日，因情况剧变，敌之来势极猛。当严令各部应力保现态势，粉碎敌蚀食中条山企图，诱敌于有利地带，转取攻势，而夹殄之”。各部仓促应变，分别与各路日军交战，中条山战役正式打响。
东线：日军“左翼以温县为发，先头步兵5000以上，骑兵千余，炮20余门，飞机数十架，战、汽、装甲等车共百余辆，沿黄河北岸突进。”“中央以沁、博为发，一股先头千余，循沁济大道西犯”，“另一股先头2000余人，附炮十余门，于窜陷西向义庄后，继向捏掌、紫陵、东逮寨、留村一带猛扑。”“同时，沁河北岸3000余人，以飞机十余架，炮二十余门，强渡沁河。”守军第9军裴昌会所部在强敌进攻下施行节节防御，节节后撤。8日午，即放弃济、孟两地，向西撤退。在全线溃退的形势下，第一战区长官部命令第9军“以主力于封门口北既设阵地，拒止沁、济之敌西犯，以一小部对敌侧击”。第9军部署新编第24；师主力、第54师张团守封门口一线，第47师和第54师驻王屋的独立第4旅等在孤山一线游击。封门口系日军西进必经之要隘，日军势在必夺。久攻不下，再行增兵。自9日上午激战至10日晨，终为敌破。这时，中路日军已于8日晚攻陷垣曲县城后，分兵进攻邵源。长官部命令第9军主力“由官阳南渡，以策应河防”。11日，日飞机百余架轰炸封锁官阳东西渡口，第54师在遭受重大伤亡后渡至河南，其余各师团退至封门口至邵源以北山地。12日，该路日军一部占领黄河沿岸各渡口；主力则沿封门口西进至邵源，与从垣曲东进之敌会合，完成了对国民党第14集团军的内线包围。
西线：是日军的主攻方向。“守军为孔令恂的第80军第165师（师长王治岐）和新编第27师（师长王竣），唐淮源的第3军第7师（师长李世龙）和12师（师长寸性奇），以及直属第5集团司令部指挥的公秉藩第34师。”7日下午，日军“分多数纵队，成广正面法，集中机炮火力，并以飞机诱导步兵，向我西村、辛犁园、王家窑头、梁家窑头王竣师右翼80团（唐、孔两军接合部）阵地猛攻。另以独3旅附37师团一部，向刘家沟、古王、计王王治岐师全面佯攻，牵制激战”。8日凌晨，日军突破张店以东第27师防线，孔、唐两军联系被切断。第27师溃退至曹家川、太寨一带。与此同时，奉命到望原集中的第80军第165师在遭到日军袭击后也退至曹家川、太寨一线。乘隙而进的敌＃＃＃纵队于当晚占据茅津渡以下的槐扒、尖坪、南沟等渡口；最远的一支进到平陆、垣曲、夏县三县交界处。9日正午时分，第80军所部遭敌便衣袭击和飞机轰炸扫射，进一步溃败。“在一场混战中，新编第27师师长王竣、参谋长陈文杞及165师姚汝崇营长等多名军官牺牲在太寨村西的雷公庙岭附近。剩余部队傍晚退到黄河渡口南沟。”第80军军长孔令恂、第165师师长王治岐弃部渡过黄河，失去指挥的部队争相竞渡，伤亡惨重。新编第27师副师长梁汝贤见事不可为，投河殉国。
夏县日军先头部队7000人分三股南向进犯唐淮源第3军阵地。8日拂晓，日军攻占中条山北山交通要道泗交村。然后，一路向西北奔袭第7师师部驻地王家河，一路向东南奔袭第3军军部唐回。王家河遭日军重兵包围，师长李世龙率部突围；唐回则在军长率预备队驰援王家河的情况下被日军地面部队与空降兵协同占领。第3军军长唐淮源率残余人员向东撤退至温峪（南通五福漳黄河渡口）一带，被日军挡住南去之路，遂与敌激战，遭受重大伤亡后，再向东北、西北方向退去。12日唐军长及其所部在尖山陷入日军的四面包围之中。在三次突围失败的情况下，“唐军长以保卫中条山职志未遂，当前大敌未殄，于尖山顶庙内自戕殉国”。同日，第3军第12师在突围至胡家峪后遭日军截击，师长寸性奇胸部中弹，身负重伤，仍率部苦战。13日，寸部亦陷日军重围，寸师长二次负伤，右腿被敌炮炸断，自知无力回天，亦拔枪自尽。继忻口战役第9军军长郝梦龄与第54师师长刘家祺之后，再写一军之中军、师长同时殉国的悲壮史诗。
“还有闻喜敌36师团先头部队3000余人，向公秉藩第34师防守的野峪、十八坪、唐王山等阵地猛攻，并迅速攻陷唐王山。公秉藩组织部队反攻，收复唐王山周围阵地，但因其右翼友邻部队防线被突破，第一战区司令长官部又令公率部驰援马村（按：马村系第5集团军司令部所在地），第34师便放弃唐王山阵地，退至胡家峪。”
北线：这里是中条山地区国民党曾万钟第5、刘茂恩第14两个集团军的接合部，日军的战略意图在于迅速攻占横（横岭关）垣（垣曲）大道，直取垣曲县城，对守军两个集团军实施分割包围，各个歼灭。战役一开始日军即以重兵向横垣大道两侧猛攻。驻守横岭关东北侧的赵世铃第43军、西南侧的高桂滋第17军同时遭受日军重兵打击。激战至8日拂晓，第43军十八坪阵地被突破，堵击无效。军长赵世铃下令放弃阵地，撤向望仙庄一线；第17军虽依靠工事和有利地形进行了较为有效的抵抗，终因左右两翼皆被敌突破，不得不退出防线。日军则在一举突破守军防线后，兵分两路：“一路沿桑池、贾家山、杜村河南下（桑池守军第15军一部溃逃）；一路沿亳清河南下，经皋落、长直、王茅，直取垣曲县城。”“8日黄昏，日军在伞兵部队配合下，占领黄河岸边的垣曲县城，截断了与黄河南岸的联系。日军实现了中间突破计划，中条山国民党jūn_duì被分割成两半。9、10两日，日军分兵两路，一路向东，一路向西，东路于12日晨攻克邵源，与济源西进日军会合；西路于11日进至五福涧，与9日攻占五福涧的日军会合。至此，日军的内层包围圈完全形成，中条山守军黄河沿线的补给线和退路全被截断。”
东北线：驻防这一线的国民党守军主要有第14集团军司令部、武士敏第98军，以及第15军、第93军等部。7日晚，日军向武士敏第98军发起进攻，武军长率领所部拼死抵抗，在董封东西线上与敌激战，多次击退日军进攻。王村一战，将敌2000击溃，毙敌滨田大佐以下700余人。10日，第一战区司令部鉴于“济源、垣曲间各主要渡口渐次被敌封锁，该集团整个补给线中断”的事实，命第14集团军“阳城以西部队主力，迅向沁翼公路以北分路转移，以旋回钻隙战法，打击敌人侧背。卯刻，该集团军全面与敌发生激战。申刻，交口之敌陆续增至三四千，窜陷清风圪塔、煤坪。同时第10师与第98军接合部之二里腰，亦被约二千余之敌突破。而陷邵源之敌，亦向西北紧迫，此时该集团军三面有受敌顾虑。”各部在突围游击中向北撤退。
在守军全线溃退的同时，日军以优势的兵力和猛烈的炮火占据了先机，迅速完成了第一阶段的作战任务——突破了中条山地区的全部防御阵地，先后占领了垣曲、济源、孟县、平陆等县城及相关的关隘据点，封锁了黄河北岸各渡口，完成了对国民党jūn_duì的内外侧双重包围，随即转入第二阶段的作战——对数路中国守军各阵地，反复扫荡。以西线为例，日军“各兵团自11日并排向北返转，然后又自5月15日再次转向黄河线，如此再三反复进行篦梳扫荡，一直进行到6月10日。在这样反复扫荡期间，各兵团所到之处消灭了敌人（按：日方的说法，指国民党军）三千至五千名”。守军主力在遭受惨重伤亡后先后突围：第3、第15等军残部在第5集团军司令曾万钟率领下西渡黄河，转到洛阳、新安一带整顿；第93军主力在摆脱尾追的日军后由禹门口渡过黄河进入陕西韩城境内；第98军一部在武士敏的率领下进入太岳山区；第43军向浮山、翼城间转进；第9军主力在道清路西段和济源山地游击数天后，分别由小渡口和官阳渡口南渡；……国民党中条山守军大部退出中条山地区，中条山战役落下了帷幕。
中条山战役前后历时一个多月，据日方的统计资料，国民党jūn_duì“被俘约35000名，遗弃尸体42000具，伤亡超过8万，有十余万人失踪。日军损失计战死670名，负伤2292名”。在国民政府公布的材料中，“综合会战，计毙伤敌官兵9900名”，我军“共伤亡、中毒、失踪官兵达13751员名”。中条山会战被国民政府视为“最大之错误，亦为抗战中最大之耻辱”。蒋介石称中条山之役为“抗战史上最大之耻辱”。