成淹，字季文，上谷居庸人。自称晋侍中成粲的六世孙。祖成升，居家北海。父亲成洪，名字犯显祖庙讳，仕职刘义隆，为抚军府中兵参军。早年去世。成淹爱好文学，有气度志向。
太和年间，文明太后逝世，萧赜派其散骑常侍裴昭明、散骑侍郎谢竣等人前来吊唁，使者想穿着朝服吊唁。主客官员把他们抓了起来，说：“吊有常式，怎么能穿着朱衣入山庭呢？”昭明等人说：“我们本奉朝命，不容改易服装。”如此往复四次，昭明等人就是不换丧服。高祖命令尚书李冲，令他选择一位学识渊博的人再与他论执，李冲启奏派成淹。昭明说：“不知道魏朝不让我们穿朝服行礼，义出何典？”成淹说：“吉凶不问，礼有成数，去冠不吊，童孺共闻。过去季孙将行，请求依照遭丧之礼，千年以下，人们还在赞美。卿从遥远的江南前来吊唁，却不能按照吊丧程式办事，我正要问这义出何典，行入的得与失，何其异哉！”昭明说：“我们两国交和既久，南北都应互相理解。齐高帝去世，魏派李彪通吊，当时一开始不穿丧服，齐朝也不以此相疑，今天你们怎么能苦相逼迫。”成淹说：“李彪致吊之日，朝廷命他带上吊丧的服装，而齐不遵高宗追远之心，刚过一个月便完丧事，李彪行吊之时，齐国君臣都已经钟鼓鸣玉满庭，貂裘丽饰光耀白日，内外百官，朱服焕然，李彪不受主人之命，又何容独穿素服夹杂在衣冠楚楚的百僚中间？你责问虽高，我却不敢以之为然。我皇帝生性仁孝，比于有虞，服丧以来，百官都听宰臣调遣，卿岂能以此与齐相比呢。”昭明于是摇着膝说：“三皇不同礼，也知道他们得失在什么地方。”成淹说：“如果像你方才说的，卿认为虞舜、高宗不对了？”昭明于是相顾而笑说：“不孝的行为，仲尼有现成的责备，我这样的人也不敢乱说。我希望主人为我裁缝丧服，出使之人，只准备了换洗内衣，这既是戎服，不可以吊丧，希望你们借我黑衣帽，以申国命。今天被魏朝所逼，违背临行指授，还归南朝时候，我肯定会得罪本朝。”成淹说：“那里也有君子，卿将命折中，还南之日，一定会有高赏；若无君子，只要你有光耀国家的赞誉，即使被无理见罪，那又有什么关系。公正的史臣，自然会直笔而书。”后来，高祖派李冲问成淹，了解昭明都说了些什么，成淹如实汇报了情况。高祖下诏李冲说：“我所用得人。”仍敕送丧服丧帽给昭明等人，赐给成淹果品食物。第二天早上，引昭明等人入丧堂，皆令文武官员尽哀。后来授成淹正侍郎。高祖以淹清贫，赐给绢百匹。
太和十六年(492)，萧赜派其散骑常侍庾荜、散骑侍郎何宪、主书邢宗庆前来朝贡，正逢朝廷在明堂有活动，因此登上灵台观看。高祖让成淹引庾荜等在馆舍南面瞩望行礼，事毕，还外馆，高祖赐予酒食。宗庆对成淹说：“南北两朝连和既久，而一段时间以来你们弃信绝好，为利而动，哪是作为大国善邻所应该做的？”成淹说：“大凡作为王者，不必拘于小节。中原有豆，善于采摘的收获便多，哪能眷眷守尾生之信。况且齐先帝历事宋朝，累世荷恩，就应当夺人宋朝之命？”宗庆、庾荜以及其他使者都相顾失色。何宪知道成淹过去由南入魏，便以手掩住眼睛说：“卿为什么不作于禁，而作了鲁肃？”成淹说：“我舍弃危殆之朝效力和顺之国，志行欲追迹陈、韩，和于禁有什么好比的！”何宪再也不说话了。
王肃投归朝廷，高祖以成淹曾经为官江表，下诏要他观察是非。于是成淹到王肃处与他交谈，还朝奏说情况属实。当时各方议论纷纷，还说此事不太确切。高祖说：“明天引他进来，我与他交谈，自然就知道虚实了。”等到高祖车驾出巡，王肃多派护从，帝让成淹当向导，一路遇到古迹，都让他知道。行至朝歌，王肃问这是何城。成淹说是纣都城朝歌。王肃说：“怪不得有殷之顽民了。”成淹说：“过去武王灭纣，帝都都居河、洛，中间因刘、石乱华，帝都便随司马氏东渡。”王肃知道成淹本隶青州，于是笑着对成淹说：“青州间为什么无其余种？”成淹以青州本属徐州，说：“青州间本非其地，徐州间有人今日重来。这你不是不知道的。”王肃于是伏在马上掩口而笑，回头对侍御史张思宁说：“刚才聊因戏言，反被别人咬了一口。”思宁驰马奏闻皇上，高祖大为高兴，对彭城王元勰说：“成淹此段表现足可制胜。”车驾到洛陽，王肃参与帝宴。高祖与王肃开玩笑说：“不久前行至朝歌，听说成淹与你很有一番往复，卿试着重新演示一回，如何？”王肃说：“臣前番在朝歌被成淹所围，没想到这事被陛下知道了。臣前番失言，一次就够受的了，哪里还能再说？”于是二人都大笑不止。高祖又对王肃说：“成淹能制住卿，其才也不简单。”王肃说：“成淹才辞实在难得，圣朝应该升他官职。”高祖说：“如果因这提拔成淹，朕担心更加有辱于卿了。”王肃说：“为臣委屈自己达进他人，这正可以显出为臣品德之美。”高祖说：“卿既被人所屈，又想求屈己之名，这于卿也太过了。”王肃说：“成淹既进官，臣得能屈己伸人，这就显示出陛下惠而不费的旨意来。”于是二人酣笑不止。于是赐予成淹龙厩好马一匹，加上鞍勒车免具，朝服一套，转任他为谒者仆射。
当时朝廷迁都，高祖以成淹搬家缺少人手，赐给劳力，送到洛陽，并赐予假日让他与家人一起行进。行至灵丘，正逢萧鸾派的使者来了，高祖派驿马征召成淹。帝车驾渡淮，成淹在路旁请见，高祖停驾引见他。成淹说：“萧鸾悖逆残虐，幽明之人都抛弃了他，陛下俯应人神，按剑江边，但敌人不可小看，蜂虿依然有毒，而况国家呢？臣殷切希望圣明君主保万全之策。”帝诏说：“这是前车之辙，能不谨慎吗！”成淹说：“臣听说向洛陽出发以来，诸多谏陈之人，都被陛下解官夺职，这恐怕不是圣明君主接纳臣言的好方法。”高祖说：“这是我的命而已，卿不得做干戈斧钺伐罪的事。”成淹说：“过去文王询于刍荛，晋文接纳赶车人的话，为臣虽然卑贱，但也敢与匹夫相比。”高祖优礼而容忍下来，下诏书赐给他绢一百匹。
高祖幸临徐州，敕成淹与吕龙驹等人主办舟船之事，准备经泗水入黄河，逆流而上，还归洛陽。军队驻扎在..郂，成淹看到黄河水流深急，担心有危险，于是上疏陈谏。高祖敕书成淹说：“朕因恒、代没有运漕之路，所以京邑百姓贫困。现在移都伊、洛，为的是道航四方，而黄河急流深浚，人们都难渡过。我有今天此行，必须乘流而上，为的是开百姓之心。朕知卿一片忠心，而今天朕不准备接纳你的意见。”诏敕骅骝马一匹，衣帽一套。除授羽林监，领主客令，加威远将军。
当时宫殿初构，建造务求广大，兵民运材，日有万计，而伊、洛水急，兵民苦于涉渡，成淹于是请求，敕在洛都二水上造浮航。高祖很赞赏，接纳了他的意见，准备在众官面前夸奖成淹，清晨上朝，百官在位，赐给他帛百匹，让他知掌左右二都水事。世宗初年，司徒、彭城王元勰说：“先帝本有成旨，成淹有归国之诚，加上历官著称，应加特别提拔。高祖虽然仙逝，诏言还历历在耳。”于是传知选辟部门，加授成淹为右军、领左右都水、仍为主客令。又授骁骑将军，加授辅国将军，都水，主客照旧。
成淹小心畏法，掌管国家迎来送往十年，四方贡聘之人，都送给他一些礼物，而他毫厘不受，全部退还，以至于衣食不足。于是请求外任。景明三年(502)，出任平陽太守，将军职仍旧。还朝后，病逝。赠本将军、光州刺史，谥称定。
子成霄，字景鸾。也有学问，喜为文章吟咏。但是辞采不行，大多粗陋。与河东姜质等人朋游交好，诗赋时有所作。内行中人，共相嗤笑；而街巷乡里，浅识之人，则颂传成风，于是其作大行于世。官历治书侍御史而去世。