张瀚，字子文，仁和人。嘉靖十四年(1535)的进士，授职为南京工部主事。历任庐州知府，后改任大名知府。俺答围困京城，诏令派遣兵部郎中征召京郊的军民进行防卫。张瀚马上查阅户口，三十人中抽取一人，由二十九人供给他的粮饷，征到八百人。骑马赶到真定，请使者检阅士兵，使者称赞他的才干。他升任陕西左布政使，担任右副都御史，巡抚这一地区才半年，又入京担任大理卿。升任刑部右侍郎，不久改任兵部职，总管漕运。
隆庆元年(1567)他改为负责两广的军务。当时两广各设有巡抚，事务不与总督府相通。张瀚请求仿效边关的事例，于是全部听从总督管辖。大强盗曾一本掠夺了广州地区，诏令责备张瀚，停发总兵俞大猷、郭成的俸禄。此后，曾一本从海路进犯福建，官军迎头痛击，大败敌寇，朝廷赏赐他银币。此后，敌寇又进犯广东，攻陷碣石卫，叛将周云翔等人杀害了雷琼的参将耿宗元，与敌寇联合。朝廷商议降张瀚一级官职调往别处。不久郭成大败敌寇，俘获周云翔。诏令恢复了张瀚的官职，让他在家待命，再度巡抚陕西。调任南京右都御史，改任工部尚书。
万历元年(1573)，吏部尚书杨博罢职，召见张瀚代替。任期满，他被加封为太子少保。当时朝廷推举吏部尚书，首先是左都御史葛守礼，其次是工部尚书朱衡，再次就是张瀚。张居正厌恶葛守礼憨厚，朱衡骄狂，所以特意提拔张瀚。张瀚的声望和资历浅薄，忽然被提拔，全朝廷更加趋附张居正，但张瀚晋升或降责大臣都遵奉张居正的意思。即使出自自己的意见，舆论大都不协调。因此他被御史郑隼、王希元弹劾。张居正厚待他，不接纳奏章。御史刘台弹劾张居正，趁势抨击张瀚巡抚陕西的混乱和对张居正唯唯诺诺的罪状。
等到张居正遇到丧事，打算夺情出仕，张瀚心中认为不可以。宫中指令张瀚谕告挽留张居正，张居正又自己做文书，暗示张瀚交给吏部，神宗复旨请求留用。张瀚假装不明白，称“阁员奔丧，应该授予特殊典制，是礼部的事情，与吏部有什么关系”。张居正又派说客游说他，他没有动摇，于是传来旨令责备张瀚很久不遵从诏令，没有大臣的礼节。朝廷大臣们惶恐，接连上奏挽留张居正，张瀚唯独没有上奏，抚胸叹息道：“三纲沦落了！”张居正恼怒，唆使给事中王道成、御史谢思启借其他的事情弹劾他，勒令他退休回家。张居正死了，神宗很怀念张瀚。诏令有司供给他每月的口粮，他八十岁时，神宗特意予以问候。去世后，被赠封太子少保，谥号恭懿。