正太铁路横越太行山，是连接平汉、同蒲两条铁路的纽带，是日军在华北的重要战略运输线之一，日军在正太铁路沿线驻有独立混成第四旅团（司令部驻泉阳）全部，独立混成第八、第九旅团（司令部分别驻史家庄和太元）各一部。
8月20日夜，晋察冀军区在司令员兼政治委员聂司令指挥下，以18个步兵团、一个骑兵团又两个骑兵营、五个游击支队，在部分炮兵和工兵配合下，组成左、中、右三个纵队，分别向位于正太铁路东段、日军独立混成第八旅团大部和独立混成第四旅团驻守勐县娘子关的一部展开攻击。
经数小时激战，右纵队攻入晋冀交界的要隘娘子关，歼灭日军第四旅团一部，尔后，破坏了娘子关以东的桥梁和通信线路。
向娘子关至微水段进攻的中央纵队，连克蔡庄、地都、北峪、南峪等日军据点，并破坏桥梁两座，攻击井陉煤矿的中央纵队一部，在矿工支援下，破坏了煤矿的主要设施，迫使该矿停产达半年之久。
第129师在刘师长指挥下，以八个团（包括决死第一纵队的两个团）、八个独立营的兵力，组成左翼破击队、右翼破击队和中央纵队。
第129师各部也于8月20日夜对正太铁路西段日军独立混成第四旅团大部和独立混成第9旅一部展开攻击。
八路军另以两个团会同平定、辽县、榆社等地的地方武装，分别对平辽、榆辽公路进行破击，并牵制各点守敌，保障主力侧后的安全。
八路军左翼部队一部进攻芦家庄，连克碉堡4座，歼日军80余人；右翼队一部攻击桑掌和铁炉沟等据点，歼日军130余人。
八路军进行此次大规模破袭战，经过了较长时间的准备，除了参战各部外，还动员了大量根据地群众，这次不仅要彻底破坏正太铁路，还要将全部钢轨运到根据地去，加大日军修复铁路的难度，由于八路军缺乏交通工具，只能是肩抬、牛拉，将钢轨运到根据地藏好，这就要求抗日军民必须日夜不懈、连续行动才行。
这夜，驻守在泉阳城内的一个大队日军、未敢出城，第四混成旅团还有一个骑兵联队驻守在大汖温泉，一旦明天天亮后，这两支日军都可能对参加破袭铁路的军民构成巨大威胁
第129师首