盛武六年（546年）二月，秦文成帝任命义州刺史史宁为凉州刺史，前任刺史宇文仲和依然占据着凉州，不接受新刺史的取代。瓜州人张保也杀掉了瓜州刺史成庆来与宇文仲和呼应。晋昌郡人吕兴杀掉了太守郭肆，以此来响应张保。丞相宇文泰派遣太子太保独孤信、开府仪同三司怡峰和史宁一同讨伐叛逆。

史宁慰问安抚凉州的百姓和官吏，全州吏民都归顺了他，唯有宇文仲和占据着凉州城不肯投降。五月，独孤信派遣将领们在夜晚攻打城的东北角，自己统率壮士袭击城的西南角，黎明时分，攻克了凉州城。擒获了宇文仲和。

张保想要杀掉瓜州主簿令狐整，因令狐整很有声望，杀掉他会失去民心，所以张保尽管表面上尊敬令狐整，但在内心却非常忌恨他。令狐整假装亲近，依附于张保，便派人劝张保说：“独孤信的军队正在渐渐逼近凉州，凉州的形势孤立无援，十分危险，恐怕不能抵挡住独孤信的军队。应该赶快分派一些精锐部队援救凉州。但是，成功或失败的关键在于将领的能力。令狐整是个文武兼备的人才，如果派他率领军队前往凉州，没有不成的事。”张保采纳了令狐整的建议。

令狐整带领军队行军到了玉门，他召集起英雄豪杰，历数张保的罪状，带领骑兵返回瓜州袭击张保。他先攻克了晋昌，斩除了吕兴。然后攻打瓜州，当地人平素都信服令狐整，因此都叛离张保，向令狐整投降。张保逃往吐谷浑。

大家商议后，一致推举令狐整担任瓜州刺史。令狐整对大家说：“我们因崐为张保叛逆作战，恐怕使全瓜州人都陷入了不义的境地，所以才共同讨伐他。今天我又被大家推举为瓜州刺史，这是明知错误而加以仿效，会罪上加罪啊。”于是，他便推举秦朝派来出使波斯的张道义暂且主持瓜州的日常事务，并将情况上报朝廷。丞相宇文泰让申徽担任瓜州刺史，召令狐整担任寿昌太守，加封为襄武男。令狐整率领他的宗族、同乡共三千多人进京入朝，跟随宇文泰征讨叛逆，他逐步升官为骠骑大将军、开府仪同三司，又加官侍中。