盛武六年(546年)八月，秦朝调并州刺史王思政担任荆州刺史，并让他从诸将中推举一位可以代替自己镇守并州州治玉壁的将领。王思政推举了晋州刺史韦孝宽，丞相宇文泰采纳了他的意见，齐帝高欢率领崤山以东的全部兵马将要讨伐秦朝。崐癸巳（二十三日），高欢便带兵从邺城出发，到晋阳与其他将领会师。九月，到达了玉壁，将玉壁包围起来。他们向秦朝的军队挑战，秦朝的军队却不出来应战。

齐帝高欢的军队日夜不停地进攻玉壁，秦朝的韦孝宽随机应变崐地抵抗齐军的进攻。玉壁城中没有水源，城中的人要从汾河汲水，高欢于是派人在汾河上游把水决开，使汾河水远离玉壁城，他们在一个晚上便完成了这一移汾工程。高欢在玉壁城的南面堆起了一座土山，想利用这座土山攻进城里。玉壁城上原来就有两座城楼，韦孝宽让人把木头绑在楼上接高，让它的高度常常高于齐军堆的土山，以抵御齐军的进攻。高欢见到这种情况，便派人告诉韦孝宽说：“即使你把木头绑在楼上，使楼高到天上，我还会凿地洞攻克你。”于是，高欢便派人掘地，挖了十条地道，又采用术士李业兴的“孤虚法”，调集人马，一齐进攻玉壁城北面。城的北面，是山高谷深的非常险要的地方。韦孝宽叫人挖了一条长长的大沟，以此长沟来阻截高欢挖的地道。他挑选了精兵良将驻守在大沟上面，每当有敌人穿过地道来到大沟里，战士们便都能把他们抓住或杀掉。韦孝宽又叫人在沟的外面堆积了许多木柴，贮备了一些火种，一旦地道里有敌人，便把柴草塞入地道，把火种投掷进去，并用皮排吹火。一经鼓风吹火，地道里的敌人全部被烧得焦头烂额。敌人又用一种坚固的攻城战车撞击城墙。战车所到之处，没有不被摧毁撞坏的，秦军没有一种武器可以抵挡它。韦孝宽便把布匹缝制成一条很大的幔帐，顺着攻车撞城的方向张开它，因为布是悬在空中的，攻车无法撞坏它。敌军又把松枝和麻干之类的易燃物品绑在车前的一根长竿上，又在其中灌油，点起火，用来烧毁韦孝宽的幔帐，并且还想烧毁城楼。韦孝宽便让人制造了一种很长的钩，并把它的刀刃磨得很锋利，等火竿快要到时，用长钩远远地切断它，附着在火竿上的松枝和麻干便都纷纷坠落。敌人又在玉壁城墙下四面八方挖了二十条地道，并在地道中用木柱支撑地上的城墙，然后放火烧掉这些木柱。于是城墙坍塌了。韦孝宽在城墙坍塌的地方坚起一些木栅栏来保卫玉壁城，敌人无法攻进城去。在城外，齐军攻打玉壁城的方法已经用尽，而在城内，韦孝宽抵御敌人的办法还绰绰有余。他又从高欢手里夺占了那座堆起的土山。高欢不知道怎么办好，就派仓曹参军祖劝说韦孝宽：“您独自一个人守卫这座孤城，西面又没有救兵，恐怕最终也不能保全它。为什么不投降呢？”韦孝宽回答他说：“我的城池坚固无比，士兵和粮食都富富有余，进攻的人是白白辛苦，而守城的人却以逸待劳，哪有一个月之内就已需别人援助的。我倒是担心你们这么多人有回不去的危险。我韦孝宽是个关西男子汉，一定不会做投降的将军的！”祖又对城里的人说：“韦孝宽享受着秦朝的荣华富贵和功名利禄，倒还可以这样做，但其余的士兵和百姓，为什么还要跟他一起赴汤蹈火呢？”于是，便向城里射去赏悬捉拿韦孝宽所定的报酬数额，上面写道：“凡是能斩杀韦孝宽而投降的人，就拜他为太尉，并且加封他为开国郡公，赏赐万匹绢帛。”韦孝宽便在它的背面提笔写字射回城外，上写：“能杀掉高欢的人，也能得到同样奖赏。”祖是祖莹的儿子。齐国的军队对玉壁城苦苦攻打了五十天，战死以及病死的士兵总共达到七万人，全都埋在一个大坟墓里。高欢的智谋用尽了，也未攻下玉壁城，又气又急，因此得了疾病。这时，有颗流星坠落在高欢的军营中，齐国的士兵们都很惊怕。十一月，庚子（初一），齐国军队解除了围攻，离开了这里。