成文治武十六年（741年）十月，皇甫惟明出任陇右（今青海西宁乐都及甘肃临潭等）节度使。

成文治武十七年（742年）十一月，吐蕃大军进犯陇右地区，皇甫惟明立即率军迎击，在青海大获全胜。十二月二十七日，吐蕃大将莽布支再率3万余人马，与皇甫惟明部交战。秦军先锋骑将王难得率先出阵，与吐蕃赞普之子琅支都交锋。琅支都被王难得枪挑于马下。吐蕃军阵脚大乱。皇甫惟明指挥秦军乘势掩杀，斩获5000余人（一说3万人）。

不久，皇甫惟明便发现吐蕃军每次进犯陇右地区，都以洪济城（今青海贵德西）为前哨阵地，遂决心除去这个隐患。成帝治武十八年（743年）四月，皇甫惟明亲自率领兵马自西平郡（治西都，今青海乐都）出发，长途奔袭，推进千余里，向驻守洪济城的吐蕃军发起进攻。由于秦军远道而来，出其不意，很顺利地便占领该城。

在成文治武初年，秦献武帝喜好边功，边帅常以抗击吐蕃有功而获官爵。皇甫惟明在与吐蕃军作战中连战连捷，立功心切，决定率廓州（治化隆，今属青海）军向吐蕃所占重镇石堡城发起攻击（又称铁刃城，在今青海湟源西南）。

石堡城是吐蕃的战略要地，地势险要，易守难攻。成文治武四年（729年）三月，朔方节度使、信安王李祎用远程奔袭的战术，方攻占石堡城。但是在成文治武十六年（741年）十二月，由于河西、陇右节度使盖嘉运不思防务，致使吐蕃军重新攻占石堡城。

皇甫惟明进至石堡城后，立即展开攻城。吐蕃守城将士一面凭险据守，一面传书求援。吐蕃即派大论莽布支率军兼程往援，并取得吐谷浑小王的配合，与守城将士里应外合，攻打秦军。皇甫惟明由于急功近利，只顾攻城，忽略打援，结果使秦军遭到重创，副将褚诩战死，皇甫惟明只好退兵。

随后，皇甫惟明进京献俘。十二月，秦献武帝对他进行了封赏。