吴遵路，字安道。父亲吴淑，见载于《文苑传》。中进士第，累任官至殿中丞，担任秘阁校理。章献太后临朝称制，国家的朝政得失，下面朝臣没有谁敢于议论。吴遵路条奏陈请十多件事，语言都直爽而切中要害，违背太后的意思，出任常州知州。曾经预先在吴中一带买米，以防备歉收年岁，不久，果然大部分地方缺乏粮食，民众依赖这些买的米得以接济，从其他州县流徙来的人也依靠这些买的米而十有八九活下来。累迁升为尚书司封员外郎，暂任开封府推官，改任三司盐铁判官，加直史馆，担任淮南转运副使。正逢罢免江浙、淮南路发运使，于是兼任发运司事。曾经在真州、楚州、泰州、高邮军建置斗门十九座，以蓄泄洪水。又扩广本州县常平仓储备米达到二百万石，以防备凶年歉收。凡所规划、考虑到的事，后来都获得了便利。
吴遵路迁任工部郎中，因为没有发现蕲州王蒙正过去的部吏所犯下的死罪，被降职任洪州知州。徙任广州知州，推辞而没有去。这个时候发运司又恢复设置使官，于是任命他为发运使，没有到任，召他修撰起居注。元昊叛反，奏请复建民兵。担任天章阁待制、河东路计置粮草。受诏负责挑选河东乡民可当兵的人，各路把他的这种方法当作基本法则去仿效。进任兵部郎中、暂任开封府知府。对待官吏严明，所辖县分没有需要追查的刑事犯罪。
当时，宋庠、郑戬、叶清臣都是宰相吕夷简所不喜欢的人，吴遵路与他们三人雅趣相投，友谊深厚，吕夷简妒忌他，让他出任宣州知州。奏上《御戎要略》、《边防杂事》二十篇。徙任陕西都转运使，迁升龙图阁直学士，担任永兴军知军，带病还处理公务，亲自上书奏事。他死的时候，宋仁宗听说后为之悼念，诏令遣官护丧返还京师。
吴遵路幼时聪明、敏捷，到长大后，博学广读，知书识大体。母亲死后，在墓旁草屋服丧、素食，直到按礼制规定服完丧期。性格坚毅、淡雅、慎重，很少言笑，善于写文章。他治理政事简易，不被声威所左右，立朝敢于发表意见，无所阿谀、奉承的行为。平素居家廉洁、俭朴，没有其他的嗜好，死后，家里没有什么值钱的物品，他的朋友范仲淹把自己的俸禄分些给他家人养家。
吴遵路的儿子吴瑛，担任尚书比部员外郎，没有等他年老就告老还乡了。