借机将其杀死。
武德三年，李世勣与魏郡李文相结拜，在入拜李文相之母霍氏时，听闻霍氏哭诉窦建德无道，其妻弟曹旦侵扰河南时，宽慰她说一个月后必将杀掉窦建德和曹旦，然后带霍氏等归顺唐朝。
由于被妻子产子所误，窦建德迟迟没有启程前往河南，李世勣图杀他的计划也无法实施。
霍氏本善骑射，又恐事久生变，便令儿子李文相在宴饮时设伏兵杀掉曹旦的偏裨二十三人，然后举兵起事。
而李世勣因计划泄露，又无力对抗曹旦，与旧部郭孝恪带领几十名骑兵归降唐朝。
武德三年，晋阳军阀刘武周势力威逼关中，与唐对峙，刘武周麾下将领宋金刚进攻浩州时被唐军打败，向北逃亡。
李世勣在秦王李世民的带领下，追击宋金刚于雀鼠谷，一日八战八胜，斩获数万敌军。
同年，李世勣跟随李世民进逼洛阳，讨伐郑国王世充，奉命接管了管州，并在之后击退了郑国太子王玄应，劝降了郑国荥州刺史魏陆。
武德四年，李世勣暗中策应，接受郑州司兵沈悦投降，占领了虎牢关，俘获了郑国荆王王行本。
窦建德应王世充请求增援郑国军，因轻敌败于虎牢关，窦建德被俘，王世充也在此后被杀。
武德四年十二月，窦建德旧部刘黑闼联合东突厥再次起兵，李世勣跟随李世民讨伐。
在刘黑闼进逼宗城时，屯守在此的李世勣遭遇惨败，只身逃往洺州。
武德五年三月，李世勣与刘黑闼部将高雅贤在洺水遭遇，李世勣引兵逼营，高雅贤因酒醉单枪匹马追击李世勣，被李世勣部将刺死。
同年七月，李世民鉴于局势初定回朝后，李世勣则被留下来继续讨伐与刘黑闼联兵作乱的鲁王徐圆朗。
最终，李世勣擒杀徐圆朗，平定了兖州。
武德七年，李世勣受命随赵郡王李孝恭和大将李靖一同征讨位于江淮的辅公祏起义军。
期间，他率领一万步骑兵渡过淮河，攻克了敌方的寿阳城，进抵硖石，接连攻破驻守长江西岸的陆路敌军以及用铁链锁船的三万水兵，在辅公祏闻讯东逃时，又趁乘胜追击，平定了江南。
“隋朝灭亡后，和亲东突厥的义成公