江革字休映，济陽考城人。祖父江齐之，在宋朝作都水使者，尚书金部郎。父亲江柔之，在齐朝作尚书仓部郎，品性孝顺，因为丧母哀伤过度而死。
江革从小聪明灵敏，很早就有才气，六岁就会写文章，柔之对他倍加赏识器重，说：“这孩子必定会振兴我的门第。”九岁时父亲去世，他和四弟江观同母所生，从小丧父贫寒，没有师友可以依傍，兄弟二人互相督导勉励，读书孜孜不倦。十六岁时丧母，以侍奉母亲孝敬闻名。丧服期满，和江观一起赴太学，被补缺为国子生，取得优良成绩。齐朝中书郎王融、吏部郎谢月兆都对他很钦佩推重。谢月兆曾有一次在宫中值班后回家路上登门看望江革，当时下雪天气严寒，他看到江革铺一条破褥子和一条单席，却沉缅于读书不知疲倦，感叹不已，于是脱下自己身上的短袄给他，又把自己的坐毡割下一半送给他当坐垫才回去。司徒竟陵王萧子良听到他的名声，招揽他为西邸学士。
年二十被举为南徐州秀才，当时豫章胡谐之兼管南徐州，王融给胡谐之写信，让他举荐江革。谐之正要荐举琅笽王氵凡，接信便用江革代替了他。仆射江礻石很热情地接待他，江礻石任太子詹事，奏请委任江革为府丞。江礻石当时权倾百官，认为江革有治国之才，让他参与机要，朝廷的诏令文诰等都委任他撰写。江革小心谨慎，不露出与江礻石关系的行迹，所以外人不知道。等江礻石被杀，门下宾客都被牵连治罪，只有江革因为机敏得以幸免。后任尚书驾部郎。
中兴元年(501)，梁武帝兵入石头城，当时吴兴太守袁昂占据吴兴抗拒武帝不肯服从，江革奉命给袁昂写信，领命后随即在座位上就写成了，文辞典雅，武帝看了深表赏识赞叹，令他和徐勉共同掌书记。建安王作雍州刺史，上表要求派一名管记，委任江革为征北记室参军，兼任中庐县令。江革和他弟弟江观从小到大生活在一起，不舍得分别，就苦苦要求一块儿去。于是又委任江观为征北行参军，兼任记室。当时吴兴沈约、乐安任日方给江革的书信中说：“近闻雍州太守选任英才，把掌管文书的职务，委任了你们兄弟，可以说是驾二龙长途奔腾，驰骏马千里飞跃啊。”途中在江夏停留时，江观去世。江革在雍州，受到刺史建安王的礼遇，关系如同寻常百姓之间一样融洽。
后来作为建康府正，屡任秣陵、建康令，为政严明，豪强畏惧。历任中书舍人，尚书左丞，晋安王长史兼寻陽太守，并兼管江州府。又改任庐陵王长史，太守、行事官职不变。江革以办事清廉严明而被其辖区内人所惧怕，当时年轻的诸王做什么事，都要听签帅的意思，江革自恃正直，不与典签赵道智来往，道智趁回京奏事之机，向朝廷当面报告说江革好酒误事，于是朝廷派琅王牙王昙聪代理他的职务。江州一带的官吏百姓们造出口号说：“故人不道智，新人佞散骑，莫知度不度，新人不如故。”江革又改任御史中丞，弹劾豪强权贵，无所避讳。
后来又作镇北豫章王萧综长史、广陵太守。当时北魏徐州刺史元法僧归附梁朝，江革被命令随萧综镇守彭城。后来彭城失守，江革不善骑马，坐船逃回去，途中经过下邳，被魏人抓住。魏徐州刺史安丰王元延明听说他的才名，对他招待很优厚。江革借口腿脚有毛病不行跪拜礼，延明要杀他，但看到他义正辞严，对他更加敬重。当时祖日恒也被俘获，延明让祖日恒为他作了《欹器漏刻铭》，江革唾骂祖日恒说：“你受国家大恩，已经无法报答了，却又为敌寇作铭，太辜负朝廷。”延明听说了，就命令江革作《丈八寺碑》和《祭彭祖文》，江革推辞说被拘押时间长了，没有心思写东西。延明要对他用刑，江革脸色严正地说：“江革活到六十岁了，不能杀身报主，今日能死就是幸运，誓不为人执笔。”延明知道不能压服他便住了手。每天供给他粗米三升，仅够保住性命。碰上魏宣武帝要求梁朝放还被俘的中山王元略，于是也放江革和祖日恒还朝。梁武帝举行盛大宴会，举杯给江革敬酒说：“你怎么不怕元延明杀你呢？”江革回答说：“臣已经活到六十岁了，死了不算短命，怎能怕延明呢。”武帝叹道：“今天才算见到苏武的气节。”于是委任他为太尉临川王府长史。
当时武帝沉迷于佛教，朝内贤达也多奏请要求出家。江革本笃信因果，而武帝不知道，便写了一篇五百字的《觉意经》赐他，上面写道：“惟有勤进取，自强把身修，佛岂能顶撞，如此必死囚。以此告江革，并及诸贵游。”又手批说：“因果报应不可不信，对佛怎能像对元延明那样顶撞呢。”江革因此请求受菩萨戒。
当时武陵王萧纪在东部州郡，很骄横放纵，武帝因为萧纪的副手臧盾性情懦弱，不能匡正萧纪，便召来江革，抚慰后派他前往，委任他为武陵王长史、会稽郡丞，行府州事。江革的弟子及旧日下属家大多在东郡，听说江革马上要到，都带着礼物夹道迎接。江革说：“我一概不接收馈赠，不能因为是老熟人就收下来。”到任后吩咐领取鲍家俸禄，吃饭不超过两个菜。会稽郡境内富庶，人口众多，每天打官司的状子就有好几百，江革分析判断明白无误，从来不曾含糊误事。于是人民安定，官吏敬畏，境内大小城邑都感到震慑。琅笽王骞作山陰县令，因贪赃名声狼藉，看到这种形势便自动收敛。武陵王萧纪也对他有些惧怕。江革每次侍奉萧纪饮宴，言谈必引《诗》、《书》，萧纪也因此潜心读书而喜爱诗文。典签沈炽文把萧纪写的诗呈献给武帝看，武帝对仆射徐勉说：“江革果然称职。”于是委任他作都官尚书。等要回京时，对所赠送礼品一概不收。按以往惯例，送卸任官员的船费要向民间摊派，江革也不收取，只坐朝廷供给的一条小船，而船倾斜有毛病，没法坐卧，有人说过江应该搬些重物压住轻船以免危险，而江革没什么家当，就在西陵岸边捡了十几块石头装上。他就是如此清贫。
不久监察吴郡，当时吴郡荒年歉收，劫盗横行，江革到此只带有朝廷配给的二十名卫士，百姓们都怕难以平定寇盗，而江革反而撤销当地维护治安的游军将吏，百姓更加担心。江革广施恩惠，盗贼于是自然平定。
武陵王出京镇守江州，对人说：“我得江革后，文章华美清丽有长进，又得江革清贫自守，为官吏作则，这让我一天也难以忘怀，应该与他有福同享。”于是上表奏请带江革同行。江革被委任南中郎长史、寻陽太守。后又征调入朝为度支尚书。江革喜欢栽培出身民间的有才干的人，爱给青年人传播名声，因此不少读书人都聚集在他的门下。当时尚书令何敬容执掌选吏，所任用的人很多都不合适。江革性格倔犟刚直，每次朝宴时常要对这些人进行褒贬，因此被权贵们所讨厌。于是告病遍家。改任光禄大夫，优游闲散，作文饮酒来自娱。后去世，谥为“瞗子”。有文集二十卷流传于世。江革历任八府长史，四王行事，三次作郡太守，而身边没有姬妾侍女，家徒四壁，因此而受到当世人的赞誉。