邵伯温字子文，河南洛阳人，是康节处士邵雍之子。邵雍生前颇有名望，与司马光、韩维、吕公著、程颐、程颢等皆有密切交往。邵伯温在家聆听父亲教诲，在外则以司马光等为师。司马光等人不讲资格辈份，与邵伯温结成忘年之交。邵伯温因此而获益良多，知识更加渊博，且特别能明察时务。司马光任宰相时，曾打算荐举邵伯温，可惜尚未荐举便因病去世了。后因受到河南尹及其他官员的推荐，邵伯温被特授大名府助教，调任潞州长子县县尉。
起初，蔡确为相，神宗驾崩，哲宗即位，邢恕从襄州迁往河阳，并拜谒蔡确，称蔡确有定策拥立哲宗之功。当司马光之子司马康应召入朝时，邢恕请司马康先到河阳，邵伯温对司马康说：“你服丧期满，应先去晋见皇帝，不宜绕道河阳先见朋友。”司马康说“：可我已经答应了邢恕。”邵伯温又说：“邢恕这个人颇有心机，一定有事相求于你，你若从之，将来定会后悔的。”司马康未听劝阻，坚持前往邢恕住地。邢恕果然劝司马康写文章称颂宰相蔡确，以为今后保全身家性命做打算。司马康与邢恕为同年登科，且邢恕又出自司马康门下，出于友情等因素的考虑，司马康遂听从邢恕的意见，做文称颂蔡确。邢恕以为，司马康为司马光之子，他写文章称蔡确有拥立哲宗的定策之功，世人必然相信。稍后，梁焘以谏议之名为皇帝召见，邢恕又依法炮制，要梁焘到河阳，并喋喋不休地向梁焘陈说蔡确的功劳，且以司马康之文做辅证，梁焘极不高兴。后逢吴处厚上奏，言蔡确以诗作诽谤朝政。于是，梁焘与刘安世共请诛杀蔡确，追究邢恕，并命司马康与之划清界线，司马康此时深感后悔。不久，司马康去世，留下年幼的儿子司马植，为宣仁皇后所怜悯。吕大防对宣仁皇后说，司马康生前与邵伯温友好，原将其子托付给邵伯温，可以邵伯温为西京教授，便于教育司马植。邵伯温做西京教授后对司马植说：“你是司马光之孙，司马康之子，是贤是愚皆为天下人所关注，你当以此为勉，负起自己的责任。”司马植听后，发奋学习，毫不懈怠，终于取得了成绩。
绍圣初年(1094)，章..任宰相。章..曾经事从邵雍，故任相后，打算起用邵伯温，然邵伯温不愿趋炎附势。按惯例，邵伯温当赴吏部听候铨选，程颐对邵伯温说“：我担心你此次的吏部之行。”邵伯温说“：有什么担心呢？难道不打算见先公于地下吗？”于是，邵伯温先到了吏部听候差遣，然后才去见章..。章..与邵伯温谈起邵雍的象数学时感叹道：“唉，我没有深究先天之学，实在有愧于先生。”邵伯温说：“我父亲的先天之学，论天地万物事理，可谓无所不包，无所不尽，如能信奉他的学说，就不会计较人世间的仇怨反复。”邵伯温之所以这样说，是因为章..大兴党狱，力排元..党人，报复仇怨。邵伯温想以此来劝诫章..。章..听后，有惶惶然之感。但章..还是将邵伯温举荐给朝廷，而邵伯温不愿在朝廷做官，而愿在郡县做事。章..为此极不高兴。邵伯温遂得监永兴军铸铁监。此时，元..党人大多南迁，且许多人都不敢去拜访他们。但邵伯温不怕，他在咸平拜见了范祖禹，在颍昌拜访了范纯仁。后来，西夏挑起战端，欲收复西夏故地，宋廷许诺凡参加对西夏作战的将领可连升数级，邵伯温本当参加，但他将机会让给了同事。邵伯温任监永兴军铸铁监期满后，章..依然在朝廷任宰相，为了避免与章..共事，邵伯温执意不去京师做官，而选外任为环庆路帅府幕僚。
徽宗即位后，就日食现象寻求解释。邵伯温上书达数千言，大意是要皇帝恢复祖宗制度，澄清对宣仁太后的诬谤，解除元..党锢，分辨君子与小人，力戒劳民伤财，兴兵动武等，言语十分恳切。关于对宣仁太后的诽谤，邵伯温在上书中进行了辩解，又专门为此著有《辩诬》一书，此书写了崇宁、大观年间(1102～1110)，除为宣仁太后辩诬外，还为邵伯温自己正了名。
不久，邵伯温出监华州的西岳庙，之后，又先后任知陕州灵宝县和黄城县。服母丧期满后，主管永兴军耀州三白渠公事。此时，童贯任该区域宣抚使，许多士大夫争相登门巴结讨好，可邵伯温听说童贯要来，赶紧出走他州以避童贯。邵伯温在知果州期间，上书请罢岁输泸南诸州绫绢、丝绵数十万以宽民力。后被命知兴元府、遂宁府、..州，皆托辞不赴任，最后被擢升为提点成都路刑狱。时农民起义首领史斌率部攻破武休，进入汉中、利路，并打算夺取剑门关，邵伯温与成都帅臣卢清原合谋守剑门，致使斌不能过关，蜀人因此对邵伯温十分感激。邵伯温后任利路转运副使，提举太平观。
绍兴四年(1134)，邵伯温去世，时年七十八岁。邵雍曾经说：“世道很乱，而川蜀安定，可避居。”在宣和末年(1125)，邵伯温举家迁往四川，因此避免了北宋末年的战乱之灾。
邵伯温曾论元..、绍圣年间(1086～1098)的政治说：“公卿大夫，应当识国体，按理对蔡确等奸邪之徒，纵然置之于死地，也不足为惜。然而，既然蔡确曾为宰相，就应以宰相之礼待之。范忠宣有文正之余风，可谓知国体者，所以他想尽量淡化蔡确之罪。当他的意见被拒绝后，只得退而行蔡确词命，然后请求辞官，这就体现了君子长者仁人之用心。蔡确死于南方荒蛮之地，难道仅仅只是有伤国体吗？刘挚、梁焘、王严叟、刘安世等人忠直有余，然又疾恶之心太甚，不识礼统，这就为后日的士大夫之祸开了先河，因而不能不说他们没有过错。”
赵鼎年青时跟从邵伯温学习，后来赵鼎做了宰相，上表请求追封邵伯温，朝廷遂追赠邵伯温为秘书阁修撰。赵鼎为邵伯温做墓志铭说“：邵伯温以学识行起于元..年间，以名节居处于绍圣年间，以言论受贬于崇宁年间。”世人皆认为赵鼎这三句话概括了邵伯温一生的历程。
邵伯温所著之书有《河南集》、《闻见录》、《皇极系述》、《辩诬》、《辨惑》、《皇极经世序》、《观物内外篇解》等近百卷。他有三个儿子，分别名为邵薄、邵博、邵傅。