韩知古，蓟州玉田人。善于谋划，富有见识和度量。太祖平定蓟州时，知古六岁，为淳钦皇后兄长欲稳所得。后淳钦皇后出嫁，知古为随从，没有得到太祖接见和慰问。过了很久，自恃胸中所学，怏怏不乐，觉得很不得志，便只身出逃，为人做雇工，以保证自己的钱财用度。
其子韩匡嗣得以亲近太祖，于是找个机会说起他。太祖召见，跟他交谈，觉得他是贤才，让他参与谋划大事。神册初年，遥授彰武军节度使。久而久之，得到更深信任，总管汉儿司事，同时主管各国礼仪。当时礼仪制度粗略，韩知古援引旧典，参酌国俗，与汉礼仪杂糅混用之，使得国人易于了解和采行。
不久，拜为左仆射，与康默记统率汉军征讨渤海有功，迁为中书令。天显年间去世，为佐命功臣之一。子韩匡嗣。