崔知温，许州鄢陵人。祖父崔枢，司农卿。父亲崔义真，为陕州刺史。崔知温开始为官任左千牛。麟德年间(664～665)，转任灵州都督府司马。州界上有吐谷浑、斛薛部落一万多帐幕的人马，屡次侵扰掳掠当地的居民，百姓们都只好废弃农业，练习骑马射箭的本领以防备侵犯。知温上书请求把这些人迁徙到黄河以北去，斛薛人不愿意迁移，当时有个将军契絆何力替他们向高宗讲情，于是知温的奏请被搁置起来。他前后共上书十五次，皇上终于听从了他的意见，于是当地百姓才能安心从事耕种收获。后来斛薛人进京朝拜，还趁路过灵州之便来拜谢他说：“从前承蒙您上奏章让我们迁往黄河以北，当时确有怨恨之心；然而迁移后的牧场土地肥沃，水草丰美，部落一天比一天富裕，这是当初蒙受您的恩泽的结果。”说完伏地叩拜而去。
知温第四次迁官任兰州刺史，碰上党项族三万多人来侵犯州城，城内精壮士兵较少，众人十分害怕，不知如何是好。知温让人打开城门以迎贼寇，贼兵恐怕有埋伏，不敢贸然进城。不久权善才将军率领大军来救援，大破党项贼兵。善才准备趁党项人投降之机，把他们全都活埋了，以杜绝后患，知温说：“不要进击已被打败溃逃的军队，这是古人善战的举动。杀戮到没有活人留存，那祸害将延及子孙后代。加上这儿溪谷深邃高峻，草木幽深繁茂，万一生变，将后悔莫及。”善才认为知温的分析很正确，接受了他的意见。善才又想分出五百口投降的人给知温，知温说道：“我前面所谈论的有关安危的对策，是从公事出发，哪里能图谋私利呢！”坚决推辞不接受。党项人被打散的剩余兵士因此都来投降归附知温。知温后升任尚书左丞，转为黄门侍郎、同中书门下三品官职，兼任撰写国史的事。永隆二年(681)七月，升任中书令。永淳二年(683)三月去世，时年五十七岁，追赠荆州大都督。
儿子崔泰之，开元年间官做到工部尚书。
小儿子崔谔之。谔之，神龙初(705)为将作少匠，参与诛杀张易之有功，封爵博陵县侯，赐给二百户封地以食租税。开元初(713)，迁任少府监。
知温的哥哥知悌。崔知悌，高宗时官职升到户部尚书。