轉眼間半個多月過去了，就在周衛國所部的新兵完成戰術訓練的同時，百團大戰的第二階段也進入了尾聲。
關於第二階段的作戰戰目的八路軍總部說的很清楚，就是要繼續擴大戰果，而作戰基本方針還是繼續破壞日軍交通，摧毀深入根據地的某些據點 。
只不過相比於第一階段而言，第二階段的戰鬥更具針對性，說白了之前只要是有鐵路的地方八路軍就出動，但是現在卻是隻重點打某一地區，甚至於只打某個城鎮。
根據八路軍總部的指示，晉察冀軍區將視線從正太線轉移到了晉北地區的靈丘和來源一帶，發起了淶靈戰役。
佔領淶源、靈丘地區的是日軍第27師團，師團長叫本間雅晴，這支部隊的指揮部設在保定。
由於這支日軍的佔領區深入晉察冀軍區腹地，因此一直是晉綏察軍區的心腹大患，如鯁在喉。
聶司令員幾次想要將其拔掉，但是日軍也很重視這一地區，因此駐紮有重兵，單單日軍就有大半個聯隊兩千六百多人，另外還有僞軍三千多人，加上僞警察和漢奸部隊，總兵力超過了六千人以上。
此外日軍受到第一階段打擊後，各據點紛紛增加兵力，其中淶源城單單就增了500人左右。
小鬼子依託城鎮和據點不斷地增修加固工事，儲備糧彈，積極備戰。
而晉察冀軍區也在暗中準備，調集部隊，準備一舉將淶靈地區的日僞軍一網打盡。
9月22日22時，由晉察冀軍區主導的淶靈戰役開始，晉察冀軍區右翼部隊三個團向淶源縣城及其周圍據點發起猛烈攻擊。經一夜激戰，奪佔東、西、南關，日軍退入城內。
接着晉察冀軍區第2團在第1團1個營及炮兵配合下，猛攻淶源城東10公里處淶易公路上的敵重要據點三甲村，殲敵大部，將其佔領。
同時，第3團向淶源城東北東團堡發起猛攻，至24日夜，攻克該村周圍全部堡壘，將殘敵壓迫於村中數間房屋死守。
日軍不敵，隨即將據點庫存武器、物資、糧食全部燒燬，準備突圍。攻擊部隊再度向敵猛攻，殘敵突圍無望，投火自焚。
緊接着，右翼隊其他部隊和平西軍分區第9團也連克桃花堡、白樂堡、吉家莊、辛莊、北口、下北頭、白石口、中莊、王喜洞、劉家嘴、張家峪、北石佛、金家井等13個據點。戰役發起的第2天，日軍開始由保定、張家口等地南援，由於破路不徹底，日軍推進迅速。
28日中午，日僞軍3000餘人搭乘汽車，在坦克20輛、飛機4架的掩護下，進抵淶源城。
在這種情況下，右翼隊已難開展有利的攻勢，晉察冀軍區乃決心轉移攻勢於靈丘地區，第一步掃除靈丘、渾源間敵據點，第二步奪取大營東南至神堂堡一線及大營、沙河以北山地內敵據點。
10月2日，晉察冀軍區命令右翼部隊主力集結淶源以東及東南地區整理，一部監視鉗制淶源之敵，另以第1、第2團歸左翼隊指揮，加入左翼部隊作戰。
10月8日夜，第1團第1營乘南坡頭日軍一部出動襲擊第2團之機，向南坡頭髮起進攻，一舉襲入敵陣，殲敵大部，殘敵逃竄。
同時，第6團第1營攻克搶風嶺，青磁窯日軍望風而逃！
接着，第6團第3營攻擊了金峯店。
此外，向靈丘、廣靈間出擊的第26團8日夜曾一度攻入黃臺寺。
然而很快戰況就急轉直下，先是晉察冀軍區發覺第1軍分區《抗敵報》第35期的社論無意中將百團大戰第二階段
企圖泄露。接着蔚縣的日軍1300餘人南援，開始反撲。
除此之外，淶源、易縣、保定、望都、定縣、完縣、唐縣、曲陽等地的日軍也在集結兵力，準備糧彈，反攻的意圖非常的明顯。
不得已，晉察冀軍區只得轉入守勢，淶靈戰役結束！
此戰共持續18天，共斃傷日僞軍1000餘人，俘日軍49人、僞軍237人，晉察冀軍區傷亡1419人。
爲策應淶靈戰役，冀中軍區在破襲滄石、德石、北寧、津浦鐵路的同時，也集中兵力進行了任（丘）河（間）大（城）肅（寧）戰役。
此戰冀中軍區出動了第18、第23、第30團等部計10個營，共8500餘人，經過十多天的作戰，共斃傷日軍805人、僞軍322人、俘日軍3人、僞軍326人，攻克據點29個，冀中軍區部隊傷亡573人。
與此同時，129師則是在晉東南地區發動了榆遼戰役，120師則是發動了破擊同蒲鐵路的相關戰役。
經過這半個月的血戰，八路軍在山西和河北兩大戰場再次重創了日僞軍，不但收復了大量的城鎮和據點，還極大地消耗了日僞軍的有生力量，沉重打擊了日軍華北方面軍制定的“囚籠政策”，對日軍震動極大 。
經過這一戰役，日軍內部進行了深刻的反省，總結經驗教訓，對情報機構進行了空前的改革和加強，進一步明確了在華北作戰以中共軍隊爲重點的指導思想，甚至於華北方面軍司令部把此役稱爲挖心戰，每年8月20日，作爲挖心戰紀念日。
不過八路軍的好日子也快到頭了，10月5日，日本國內調往華北的援兵抵達天津港，此次運往華北的日軍包括兩個野戰師團外加30個步兵大隊。
這兩個野戰師團分別是平林盛人中將的第17師團和櫻井省三的第33師團，儘管這兩個師團都是三單位制的丙等師團，但是卻勝在齊裝滿員，加上那三十個步兵大隊，華北方面軍一下子得到了近六萬援兵。
與此同時，還有兩個師團的援兵正在路上，只不過登陸地點並不在天津，而是在青島。
得到了六萬援兵之後，多田駿手頭上的兵力頓時寬裕了不少！
再加上日軍在華北的廣大地區連續遭到八路軍兩次大規模攻勢的打擊，不但使得多田駿顏面盡失，甚至於讓不少人開始懷疑日軍的戰鬥力了，這對於日軍來說是堅決不能容忍的。
這已經不僅僅是面子上的問題了，更關係到了日軍能不能在中國繼續存在下去了。
要知道現在日軍以及日本國內的情況已經非常的不好了，日本全民都在勒緊褲腰帶過日子，老百姓甚至於已經連大米都喫不起了，飢餓正在日本本土蔓延。
因此，日軍在中國境內很大一部分實力是需要依靠僞軍的，而僞軍都是些有奶就是孃的傢伙，對於自己的國家都沒有什麼忠誠，更不要說是對日軍了。
一旦他們發現日軍只是一隻沒牙的紙老虎的話，那麼必然會反叛，一旦有一個這樣做了，其他人都會效仿，就像是前幾天發生在山東的騷亂一樣，因此日軍急需一場酣暢淋漓的戰鬥來證明自己。
爲防止局勢繼續惡化，也爲了儘快穩住佔領區，多田駿隨即在北平召開參謀長一級的軍事會議，商討如何反擊。
經過一番討論之後，日軍很快就制定了反擊方案，決定從10月6日起，先後對華北各抗日根據地進行報復“掃蕩”，日軍打算趁八路軍連續作戰來不及休整之機，打擊八路軍主力 ，徹底的毀滅抗日根據地。
而後在多田駿的命令下，山西、河北以及河南北部的日軍遂調集重兵，準備反擊。