程异是京兆府长安县人，曾侍奉父亲的病，在当地以行孝有名。考明经科及第，拜官扬州海陵县主簿。又考中开元礼科，任华州郑县县尉。他精通官吏事务，分析判决快速。杜确任同州刺史、河中节度时，他都跟从做幕僚辅佐。
贞元末年，他升任监察御史，又升任虞部员外郎，担任盐铁转运使、扬子院留守。当时王叔文当权，走捷径想得好处的人都依附他，程异被他任用。王叔文下台后，他被牵连贬任岳州刺史，后改任郴州司马。元和初年，盐铁使李巽推荐他擅管钱粮，请求原谅他的过失任用他。于是升任侍御史，重任扬子院留守，多次升官后任检校兵部郎中、淮南等五道两税使。程异自悔以前过错，竭力尽心，江淮钱粮弊政，多有改革。后入朝任太府少卿、太卿，又调任卫尉卿，兼御史中丞、盐铁转运副使。
当时淮西平叛，国家财力不够，程异让江南用调法收赋税，并且劝掌管地方的人将余财进贡，到哪里都不盘剥下属、榨取钱财，费用就充足了，人们认为很方便。他从此专任盐铁转运使，兼任御史大夫。元和十三年(818)九月，调任工部侍郎、同中书门下平章事，同时仍旧任盐铁转运使。有人议论说程异由管钱粮的官提升，一下子位在百官之上，人们很难接受。程异自知难以服人，因此谦逊自守，一个多月，不去上任管事。程异知道西北面边境军队、地方治理得不好，上奏请求派巡边使，皇帝问谁能任此职，程异请求自己去。商议未定，他没患病却去世了，这是元和十四年(819)四月。皇帝赠官为左仆射，赐谥号为恭。程异生性廉洁简朴，在官府宅院里去世，家里没有多余的财物，人们都称赞他。