1236年，張惠十四歲時，蒙古軍入蜀，被俘送至杭海（今蒙古國杭愛山）。留居其地數年，盡通諸國語言。後來經人推薦，入侍還在藩邸的忽必烈，賜名兀魯忽訥特。中統年間，忽必烈即位，任命張惠擔任燕京宣慰副使。至元元年（1264年），擔任參知政事，行省山東。用銀錢贖俘囚二百多家恢復民籍。當時山東李璮之亂後，百姓被軍隊擄掠的非常多，他設法放回。至元三年（1266年）轉任制國用司副使，改任尚書省參知政事。至元九年（1272年）擔任中書左丞、中書右丞。至元十二年（1275年）掌管江淮錢穀和元朝攻打南宋的糧餉供給。宋朝滅亡，他到臨安府查驗府庫版籍，收繳太廟和禮樂器物。因為在府庫擅自啟封，被責召回京師。他依附專擅的中書省平章政事阿合馬，被安童等人指責。至元十九年（1282年）因為依附阿合馬被罷黜。至元二十年（1283年），被起用為揚州行省平章政事，至元二十二年（1285年）轉任杭州行省平章政事。