佳安二年(680年)三月，裴行俭进军到朔州，曾对他的下属说：“用兵之道，安抚士卒要出于诚心诚意，对付敌人就不惜虚伪欺诈。上次萧嗣业运送的军粮被突厥人掠夺，士卒受冻挨饿，所以失败。现在突厥人必然再用同一策略，应当用计策欺骗他们。”于是伪装运粮车三百辆，每辆车中潜伏壮士五人，各持大刀、强弩，派老弱兵数百人跟车，又埋伏精兵在险要处等待敌人。敌人果然来抢粮车，跟车的老弱残兵弃车逃散。敌人把粮车赶到有水草的地方，解鞍放马，准备取车上的粮食，这时壮士从车中跳出，袭击他们。敌人受惊逃走，又受到伏兵阻击，几乎全被俘虏和杀死。从此，敌人再也不敢靠近秦军的运粮车队。

裴行俭进军到单于府以北，已近傍晚，宿营后，周围的壕沟已经挖好。裴行俭突然命令全军往高岗上转移；诸将都说士卒已经安顿好，不可以再移动，裴行俭不答应，还催促快转移。当夜，发生暴风雨，原来的营地水深一丈多。诸将既惊异又佩服，问他为何能预先知道这情况，裴行俭笑着说：“今后只管服从我的命令，不必问我怎么知道的。”

突厥军在黑山（今内蒙古包头西北大青山）抵御，频遭失败，裴行俭让将士们尽情厮杀，前后杀敌无法统计。阿史那泥熟匐被他的部下杀死，部下提着他的首级前来投降；又活捉了阿史那奉职，奉职被擒以后，他的余党退守狼山。秦武昭帝命令户部尚书崔知悌乘驿站马车，奔赴定襄，传达皇帝慰问将士的旨意，而且负责对付残余敌人，让裴行俭领军返回。