桓康，北兰陵承县人。英勇果敢而骁悍。宋朝大明时期(457～464)，曾经随齐高帝为军容，跟从武帝在赣县。泰始初年，武帝起义，被郡里所囚禁，兵众都逃散了。桓康找了个担子，一头装了穆皇后，一头装了文惠太子以及竟陵王萧子良，自己把他们挑到了山中。他与门客萧欣祖等四十多人互相联合，攻破郡里的监狱，救出了武帝。郡里的追兵逼得很紧，桓康等人拼死战斗，才把他们打败。此后便随武帝起兵，摧坚陷阵，臂力远远超过别人。他在所经过的村庄，都是残暴横行，江南的人都很害怕他，常常用他的名字吓唬小孩，把他的像画在寺中。患了虐疾的人把他的像画下来贴在床边的墙壁上，无不立即痊愈。
后来他被任命为襄贲令。桂陽王刘休范事件发生后，桓康丢掉县城回到京都去找高帝。正好事情已经平定，任命他为员外郎。
元徽五年(477)七月初六夜里，少帝化装出行到了领军府，少帝身边的人说：“全府的人都睡着了，何不翻墙过去？”少帝说：“我今天晚上想到一个地方去玩，等明天夜里吧！”桓康与高帝所养的健儿卢荒、向黑在门缝里听到了他们的话。第二天黎明，王敬则提着少帝的头来到，敲击府门。桓康认为是发生了变故，与卢荒、向黑拔出刀来想冲出去。结果随武帝进入皇宫。
高帝镇守东府，任命他为武陵王中兵、宁朔将军，兼带兰陵太守，常常侍卫在身边。高帝杀死了黄回，黄回当时为南兖州刺史，部队数千人，想对他们加以拘捕，又怕他们作乱，便把他们召进了东府，停在外斋前面，使桓康去宣布黄回的罪行，然后把他杀死。当时的人为此编了谣谚说：“要欺诳，问桓康。”高帝任命他做了后军将军、直阁将军、南濮陽太守。
建元元年(479)，他被封为吴平县侯。高帝对桓康说：“你跟随我时间很久了，还没有当上地方诸侯，也许不能理解我的心意，我是打算和你首先共同消灭敌虏啊！”建元三年，魏军出动，桓康在淮陽大破魏军。武帝即位后，他在骁骑将军的职位上去世。