胡松，字汝茂，滁人。幼年特别好学。曾经收辑古代名臣的奏章，慷慨有经世之志。嘉靖八年(1529)进士，任东平州知州。设定计谋捕捉盗贼，人民得以安居。后调职为南京礼部郎中，历任山西提学副使。
嘉靖三十年(1551)秋天，他奏上边关要务十二事，说：
“去年秋天俺答骚掠兴、岚两县，立即传令征兵，约定进击敌人，守臣都熟知这件事。而巡抚史道、总兵官王陛等的守备防御则向来没有准备。等到大兵压境，才向皇帝奏报俺答求贡。又暗地里对敌人进贿赂，叫敌人不要侵略自己的分地，希望嫁祸给他人的防区。现在的山西之祸，实是大同兵变所留下的。应当尽快以重法进行处置，以勉励诸镇。
“大同自从兵变以来，壮士大多逃往漠北而被敌寇所用，现在应当招他们回来。有携带牲畜及生产器械归来的人，这些东西归他们所有。再给与他们牛及耕种费，免除数年赋役。这样我们花费十万银两，可得到壮士二万人。安抚而使用他们，都能成为劲旅。怎能遗弃他们而资助强大敌人呢？
“大同是抗敌的最重要的要道，镇守这个地方的人比其他边关更难。现今应当不拘资格，精心选择人才担任。多给他禄粮，使得他能招收猛士，畜养壮健兵丁。又让他长期任其职，不到十年不能代替。他知道他不会突然调迁，一定不会有苟且的短期打算，这样边关防御自会牢固。又应该稍微放宽法网，不是很严重地违反法典，言官不得轻易弹劾，以免破坏他成功。
“至于用间之计，是兵家所推崇的。现今敌寇间谍在山西捕获的有数十人，其他城镇也与此相似。所以我方的虚实，敌人无所不知。现在应当厚养敢死之士，潜派到敌人那里去。如果能得到机会就斩敌名王、部长及诸当权贵人。否则，也可侦察敌人的强弱虚实，暗中好做准备。
“再加上敌寇贪婪好利，我们应该不惜金帛。东边贿赂黄、毛三卫用以制其左方；西边收亦不敕遗部，给他好的牧地，用以连结其右方，让他们首尾受制，自顾不暇，则我方可以起承其敝，坐收全胜了。”
他的逐条分析，都切中边关之要害。皇帝嘉奖他的忠恳，进升他为左参政。
胡松的上疏，当事的人已厌恶他侵权。等到胡松升迁后，就更加忌妒他。不给他兵权，让他在三关听用，想以此来陷害他。敌寇大肆入侵，抵达太原。给事中冯良知于是弹劾胡松以空言冒赏，毫无寸功。记功科道官张尧年、王衍弹劾总兵官张达等，并论说胡松的提议是空谈，于事无补，于是胡松被贬斥为民。回家乡居住十余年。屡次被推荐，总未得到批准。
到嘉靖三十五年(1556)，因为赵文华的荐言，胡松被起用为陕西参政，分守平凉。又逐条奏上严保甲、均平赋税、置常平仓、简选健卒数件事。三次迁官后为江西左布政使，以右副都御史的官职巡抚江西。江西多盗贼，胡松奏请设立南昌、南丰、万安三营，遣派将士讨捕盗贼，依次削平了盗贼。进而升为兵部右侍郎，巡抚如故。因为会师讨伐广东巨寇张琏及援助福建破倭贼之功，受到皇上两次赐赠银币。
过了三年，诏封为理部事。进而为左侍郎，改派到吏部。迁为南京兵部尚书，参与辅佐机务。代郭朴为吏部尚书。他向皇帝奏言“：巡抚、巡按推举弹劾，常常推举数十人，虚誉浮词，往往失实。所揭发的犯赃，只拟降职或调离；罢除懦弱贪残之人，仅让其改过。这样赏罚不当，拿什么来激励规劝人呢？而且巡抚年终例行有册子献上，排列所属的官吏贤与不贤，现在搁置不行，请求告诫整治其中欺玩的人。”皇帝嘉奖并采纳了他的话。
胡松洁身自好，富有治理之术，颇有声望。晚年掌管选拔官吏之权，以选拔滞于仕途的官员为己任。刚刚任职七月，病故。赠官太子少保，谥号恭肃。