一年多后，宇文化及江都弑隋炀帝，越王杨侗即位于东京洛阳，赦免李密诸人，封魏国公，拜太尉。隋廷又授李绩右武侯大将军，命他们一同讨伐宇文化及。李绩守黎阳仓城，宇文化及率军四面攻城，形式危急，李绩从城中向外挖地道，忽然现身城外，大败宇文化及，解围而去。
李绩前后战胜所得到的黄金、丝帛，都分发给将士。
刚到黎阳仓时，去领粮的人有数十万人。
魏征、高季辅、杜正伦、郭孝恪都到黎阳仓做客，他们一出现在众人之中，李绩就恭敬地以礼相待，把他们引到卧室里，谈笑而忘记了疲倦，到平定虎牢关，抓获伪郑州长史戴胄，知道了他的品行、才能，很快就释放了，这些人一一受到李绩的推荐，都做到了显贵的高官，当时人们称李绩有知人之明。