关、桐城和舒城等地，为进攻庐州铺平了道路。
此时，清廷为了抵御太平军的攻势，任命江忠源为安徽巡抚。江忠源曾是湘军中的悍将，在广西全州蓑衣渡及江西南昌等地多次成功抵挡太平军的攻击，因此被寄予厚望。他迅速赶往庐州组织防御，但很快就被胡以晃所率领的大军包围。
面对这一严峻局势，清廷紧急调遣多路援军前来救援庐州：总兵玉山率领滁州兵驻扎于拱辰门外；陕甘总督舒兴阿则带领陕甘两地的军队驻守在冈子集；另有总兵音德布指挥云南来的部队驻扎于枣林地区；而江忠源本人则率领湘军主力驻防于西平门附近的五里墩。面对如此强大的敌方力量集结，胡以晃并没有贸然发动直接攻城，而是采取了更为谨慎且高效的“围城打援”策略。
胡以晃首先围绕庐州城墙修建了一系列木城土垒，形成了严密的封锁线，使得内外之间的联系几乎完全中断。接着，他集中兵力逐一击破前来救援的清军。首当其冲的是位于拱辰门外的滁州兵，经过一番激战，不仅成功击毙了总兵玉山，还迫使这支队伍彻底溃散。紧接着，他又连续击败了舒兴阿和音德布所部，极大地削弱了庐州守军的外援支持。
随着外围援军被一一清除，庐州城内的清军陷入了孤立无援的状态，士气低落且物资匮乏。利用这一有利时机，胡以晃决定采用更为直接有效的手段——挖掘地道并埋设大量火药进行爆破攻城。12月初十夜（农历十二月十六），预先布置好的地雷被引爆，导致部分城墙坍塌。趁此机会，胡以晃亲自指挥士兵们冒着烟尘与碎石向缺口发起猛烈冲击，最终成功突破防线进入城内。此时，原本还在梦乡中的江忠源突然惊醒，发现自己已被四面楚歌，随即在随从的帮助下仓皇逃窜。然而，在混乱中他的随从不慎将其遗弃，最终江忠源不幸溺亡于桥下的古塘之中。
凭借此次胜利，胡以晃因功被封为护国侯，不久又改为护天侯。到了甲寅四年（1854年）五月，鉴于他在战场上的卓越表现，进一步晋升为豫王。不过，由于后来在皖北战役中遭遇挫折，胡以晃一度失去了王爵称号，降职为护天豫，并被调往皖南地区继续作战。尽管如此，他仍然展现了出色的军事才能，在克复太平郡、繁昌以及芜湖等重要据点方面发挥了关键作用。此外，他