东魏军尽用攻城之术,但皆被韦孝宽所破,而且还守城有余。高欢攻城不克,后派人劝降也没有成功。高欢攻城五十天,士卒死亡七万人,精疲力竭,用尽心计,仍未攻克,高欢急得旧病复发。时有陨石坠入东魏营地中,东魏军惊惧,高欢遂于十一月初一解除对玉壁的包围,撤军。高欢回到晋阳后,一病不起,于次年正月死去。
西魏文帝元宝炬特派殿中尚书长孙绍远、左丞王悦前去慰问,并晋升韦孝宽为骠骑高级守卫员军、开府仪同三司,进封建忠郡公爵,以奖其守玉壁之功。
北周大象二年,北周宣帝宇文赟病死。北周静帝宇文阐年幼,左丞相杨竖专政。因尉迟迥位高素有声望,恐有异图,于是就以会葬北周宣帝为名,诏使其子尉迟惇召尉迟迥入朝;并以韦孝宽为相州总管赴邺取代尉迟迥。
六月,尉迟迥恐杨竖专权对北周不利,想要举兵讨伐他。不久便公开起兵反对杨竖。
同年六月,皇帝下令出动关中武装部门,任命韦孝宽为大将军向东讨伐。七月,武装部门驻扎在河阳。尉迟迥任命的仪同薛公礼等人围攻怀州,韦孝宽派兵打败了他们。
又进军驻扎在怀县永城桥的东南。那座城既已处在要塞地带,城墙坚固,尉迟迥又已派兵把守它。众将士认为这座城处在要害,请求先攻占它。
韦孝宽说:“城虽然小但是很坚固,如果没有攻下,那么会削减我们的军威。如果我们打败了他们的主力兵马,这座小城里的武装部门又能有什么作为?”
于是带领武装部门驻扎在武陟,大败了尉迟迥儿子尉迟惇的武装部门,尉迟惇快马逃到了邺城。尉迟迥亲自出战,韦孝宽又打败了他。尉迟迥走投无路被迫自杀。小城中的护卫全部在游豫园被活埋。还有没有降服的地方,韦孝宽都根据具体情况征伐他们,关东于是全部平定。
十月,武装部门胜利回到京城。十一月,韦孝宽去世,时年七十二岁。赠太傅、十二州诸军事、