郑覃，是原宰相郑王旬瑜的儿子，因其父勋劳的恩荣所及，补弘文校理，历任拾遗、补阙、考功员外郎、刑部郎中等职。宪宗元和十四年(819)二月，升为谏议大夫。宪宗任用五名宦官为京西北和籴使，郑覃上奏疏论析应予取消。穆宗不忧虑政事，喜好游乐饮宴。即位之始，吐蕃侵犯边境。郑覃与同职官员崔玄亮等在朝堂上面奏说：“陛下登基以来，饮宴娱乐太多，打猎游乐无度。现今吐蕃入侵军队已在边境，任何缓、急的奏报，都不知陛下在哪里。臣等愧为谏官，不胜忧伤戒惧，敬望陛下稍稍减少游乐放纵，多加注意为政之道。臣下听说陛下早早晚晚亲近歌舞杂技艺人，对亲近宠爱的人，赏赐过于优厚。所有金银财物，全都出自民脂民膏，不能让无功的人，滥受恩惠得到赐予。即使皇宫内库财物有余，也望使用有法度，如果边疆报警告急，就能支用不会短缺。免得让官府对百姓加重赋税的征收，如能这样，实在是天下百姓的大幸。”穆宗开始很不喜欢这些话，对宰相萧亻免说：“这是些什么人？”萧亻免回答说：“是谏官。”穆宗的怒意稍有缓解，便说：“朕的过失，臣下尽力规劝，这是尽忠。”并对郑覃说：“在内阁官署奏事，时间太不充裕，今后有事面陈，朕与你在延英殿相见。”当时已很久没有在朝堂中禀奏事情，郑覃等直言奏论，人们都表示赞许。
镇冀节度使王承宗死后，他的弟弟王承元愿意听从朝廷命令，将他改任郑滑节度使。冀镇的三军将士挽留王承元，因为感到为难不能到郑滑赴任，王承元请求朝廷委派重要大臣前来宣布、解说朝廷旨意。于是朝廷派郑覃任宣谕使，起居舍人王播为副使。开始，镇冀的将士言语很不恭顺，郑覃到来宣布诏令，从大道理上给予阐说，镇冀将士高兴地听从朝廷命令。长庆元年(821)十一月，郑覃转任给事中。长庆四年(824)，升任御史中丞。十一月，兼任工部侍郎。宝历元年(825)，郑覃担任京兆尹。
文宗即位，郑覃改任左散骑常侍。太和三年(829)，以本官职位充任翰林侍讲学士。四年(830)四月，被授职工部侍郎。郑覃擅长经学，研习古事，笃守正道，文宗特别器重他。郑覃和缓地进言说：“经书典籍讹误谬传，经学博士因循沿袭，难以改正。请陛下召集老成博学、学问精深之士，校正刊定《诗》、《书》、《礼》、《乐》、《易》、《春秋》六种典籍，效法东汉的先例，在太学内刻文于石，作为永久的准则，以补正残缺讹误。”文宗听从了他的建议。
太和五年(831)，李宗闵、牛僧孺辅佐朝政。李宗闵因为郑覃与李德裕友善，对待郑覃很刻薄。当时，李德裕刚由浙西入朝，又遭到李宗闵、牛僧孺排斥，被调出朝廷镇守蜀川。李宗闵害怕郑覃在宫内议事，奏请让他担任工部尚书，免去他担任的侍讲学士。文宗爱好经学义理，心中很想念他。太和六年(832)二月，又召回郑覃任侍讲学士。七年(833)春，李德裕做宰相。五月，委任郑覃为御史大夫。文宗曾在延英殿对宰相们说：“殷侑精通经学。为人很像郑覃。”李宗闵说：“郑覃、殷侑的确通经学，但在评议论说方面没有值得听的东西。”李德裕针锋相对地说：“殷侑、郑覃的言论，别人不想听，不过陛下极想听。”郑覃曾经憎恶别人结为朋党，这正是李宗闵待他刻薄的原因所在。太和八年(834)，郑覃迁升为户部尚书。同年，李德裕罢相，李宗闵又主持朝政，与李训、郑注一道排斥李德裕和李绅。李德裕、李绅遭贬黜后，郑覃也被降职任秘书监。太和九年(835)六月，杨虞卿、李宗闵获罪被流放，又委任郑覃为刑部尚书。十月，郑覃迁升为尚书右仆射，兼任国子祭酒。李训、郑注伏法处死，文宗召郑覃入宫拟制皇帝的诏书敕令；次日，郑覃以本官任同平章事，受封为荥阳公，食邑二千户。
郑覃虽然精通经义，但不善于写文章。他讨厌进士们的虚浮不实，开成初年(836)，他上奏提出：礼部贡院应当取消进士科。起初，在紫宸殿应答策问时，文宗谈到选拔才士的问题，郑覃说：“南北朝时多取用文采华丽的人，所以国家治理不好。士人以才干能胜任职务就取用，有什么必要讲究文章辞藻？”文宗说：“考中进士的人已经担任过州县官员的，方镇上报朝廷各署即可任用，其他的不能任用。”郑覃说：“进士科考中的人大多轻浮刻薄，不一定都任用。”文宗说：“轻浮刻薄与诚朴敦厚，各类职务中都有这两种人，未必只在进士中有。进士科已设置二百年，也不能骤然改掉。”郑覃说：“也不可过分推崇培植。”文宗曾对宰辅大臣说：“现在百官松懈怠惰，需要逐条重列法纪。”就势指着此前的香炉说：“这个香炉开初也很华美，使用久了以后，就失去了光彩。如不加以修饰，怎能复原如初？”郑覃回答说：“大力变革风气，应当考察实效。近三十年以来，人们多不务实，都凭情面办事。像嵇康、阮籍这样的人，不可能办理本职分内事务。”李石说：“这种风气源于世道太平，人人相安无事，系由安逸所致。现在一般民众也都仰慕晋代王衍的求自全、尚玄谈的作风，以赶不上王衍为羞耻。”文宗说：“诸位辅佐朕治国，职责仅在振起复兴法度而已。”
当太学将儒家经典刻在石碑上时，郑覃奏请由起居郎周土犀、水部员外郎崔球、监察御史张次宗、礼部员外郎温业等人，校定《诗》、《书》、《易》等儒家九经的文字，并旋即将刊定的文本刻在石上。郑覃被加授门下侍郎、弘文馆大学士、监修国史等职务。文宗曾在延英殿评论古今诗句的优劣，郑覃说：“孔子所删定的，只是《诗》三百篇。后世泛滥至今的这些五言诗、七言诗之类，都不是雅正之辞，不值得帝王欣赏吟咏。《诗》中的《雅》、《颂》之作，都是在下位者批评在上位者而写的，而不是在上位者教化在下位者所做的。王者采集民间诗歌，是借以考察民情风俗、施政得失。孔子删定它们，拿它们作为世代承袭的典范。近代的陈后主、隋炀帝都长于诗歌章句，却不懂王者治国的主要方面的事，终于发生末年的失国。诗歌章句是小技，希望陛下不要去追求它。”郑覃以宰相身份兼任国子祭酒，奏请在太学设置五经博士各一人，由于他们没有禄米田，请求按王府官例，赐给他们俸禄粮，文宗依从这一建议。郑覃又进献《石壁九经》一百六十卷。
同年，李固言再度任宰相。李固言与李宗闵、杨嗣复相亲善，郑覃憎恶他。由于起居郎一职无人担任，李固言进奏说：“周敬复、崔球、张次宗等三人，都能胜任这一职务。”郑覃说：“崔球奔走于李宗闵门下；况且史官在宫殿内执笔所记之事，将成为千古准则，不允许朋党的人担任。如果让裴中孺、李讠襄夷任此职，微臣不敢有丝毫异议。”于是作罢。开成三年(838)，杨嗣复由西川入朝任平章事，与郑覃矛盾更深，加上倚恃李固言、李珏，进殿对答策问的时候，是非蜂起。二月，郑覃晋位为太子太师。
文宗因旱灾不止释放在押囚犯，放出宫女刘好奴等五百余人，将她们送到两街的寺院道观中，听凭她们各自返回亲属家中。在紫宸殿对答策问时，李珏说：“陛下放还宫女的人数多，德超千古。汉代制度，八月挑选宫人；晋武帝平定吴国，也多采选宫女。孔子曰：‘没有见过好德有如这样好色的人。’如今陛下认为宫女过多无益而放还她们，微臣庆贺。”郑覃说：“晋武帝由于采选宫人的失当，致使中原变成为异族统治地区，陛下以此作为鉴戒，将宫女放还非常适宜。”同年十二月，郑覃三次上呈奏章请求免职，文宗下诏免去他太子太师职务，其他职位不变。他仍然三、五天去一次中书省，商量政事。开成四年(839)五月，郑覃被免去宰相职务，仍兼左仆射。武宗即位，李德裕当政，打算选拔郑覃任宰相，郑覃以脚有毛病为由坚决推辞，不到任入朝参谒。会昌二年(842)，郑覃以代理司徒的职位辞官归居，后去世。其子裔绰，因郑覃的勋劳而受恩荣，被授予渭南尉官职，代理弘文馆职务。
郑覃年轻时生活清苦，为人正直谦让，不轻易与别人亲密相交。官位高至宰相，所住的房屋从未增建装饰，刚够遮蔽风雨。家中没有妾婢，人们都仰慕他纯朴洁净的作风。但他嫉恶得过分，许多事情他都不能容忍，因而大家对他感到畏惧而不喜欢他。