张岳，字维乔，福建惠安人。从小好学，想成为一名大儒。考中正德十一年(1516)进士，初任行人。武宗在豹房养病时，他上书请让大臣侍从，让台谏官轮流值班，服侍武宗起居休息，检查药饵，以提防意外的事变。武宗没有作答。后来又和同事一起劝阻武宗南巡，在宫门外被打了一顿大棍，然后贬为南京国子监学正。
世宗即位后，张岳官复原任，又升为右司副。因为母亲年老他请求就近赡养，改官南京武选司员外郎，又做过主客郎中。当时朝廷正在讨论大礼，张璁主张考证远古时代传下谱系的始祖来填写牌位，礼官都跟着唯唯称是。张岳对尚书李时说：“不如虚设一个皇初祖的牌位，不实写某人为好。”李时很高兴，告诉了张璁。张璁不以为然，仍按当初的主张奏上。世宗最后让题写了一个皇初祖神主的牌位，和张岳的主张一样。张璁因此记恨张岳，把他外调去当广西提学佥事。他到柳州巡视时，当地驻军因为缺饷而哗变，城门紧闭了五天不敢打开。张岳命令守城的打开城门，召来哗变的士兵，问话以后给他们粮饷，让他们走了。不久设计捉拿了发动哗变的人，把他们关进监狱。后来，他进京庆贺，改任江西提学。因为他不登门拜谢张璁，张璁罢黜了七名来自广西的选贡，把张岳贬为广东盐课提举。以后他又升为廉州知府。期间他率领当地人民开垦荒地，教他们用桔木皋运水。廉州百姓有很多人从珠池中盗取珠宝。张岳在这里做了四年官，未曾拿一颗珠宝为己所有。
世宗派遣使臣到安南去质问莫登庸弑君篡位的事，张岳对总督张经说：“莫氏篡夺黎氏的政权，这是不用调查就可以知道的事了。使臣前往受人侮辱的话有损国家尊严，请留下使者不要去了吧。”张经不同意。钦州知州林希元上书请朝廷坚决讨伐莫氏，张岳送信过去加以制止，又列举了不能讨伐他的六条理由呈上。他又给执政大臣写信道“：根据安南边境上的百姓报告说，黎..继承封国以后没有儿子，把哥哥的儿子黎讠惠当成自己的儿子。陈皓作乱时，黎..遇害，陈皓就篡了位。不久，安南人民又拥立黎讠惠，陈皓逃到了谅山。黎讠惠坐了七年又被莫登庸逼迫，外逃住在升华。登庸立黎讠惠的小弟弟黎..为王，自己当丞相，最后杀害黎..自立为王，这样安南就一分为三了。黎氏在南部，莫氏在中间，陈氏在西北。后来谅山也被登庸占领，陈氏就灭亡了。而黎氏所占据的也就是古人称为日南的地方，与占城接壤，有大海作为险阻，登庸不能越海南下，所以两边得以共存。近来登庸又把交州给了他的孙子福海，自己营建了海东府一块地方，叫都斋，住在那里。安南各府，只有海东府地方最大，也就是以前称为王山郡的地区。这个老贼背了篡国的罪名，常常操练兵马防备着我们，又时常要求向我国入贡。边境上的百姓因为国王不再是过去的国王了，不敢报告给朝廷知道。我认为他们虽然内乱却不曾侵犯过我们，可以暂时把他们放在一边，等他们内乱平定后再要他们来入贡。如果一定要用兵，我们两边的胜负、强弱可不是我张岳敢肯定的了。”执政大臣收到他的信以后也不能决定下来。过后，毛伯温来指挥军事，张经完全把自己负责的军事委托给张岳。张经又认为翁万达很有才干，就把他们俩一块推荐给了伯温。张岳和伯温谈了几天，伯温就说：“交州的事就全交你办了。”后来又照张岳的意见答应了登庸的求降。当时正好张岳将升任浙江提学副使，又改为升任参政，伯温飞章上奏留下了他，于是张岳改当广东参政，负责分守海北。登庸投降以后，朝廷给张岳加俸一级，并赏赐他银币。不久又因为他讨伐琼州的黎民叛乱，又照以前的样子加了俸，赏赐了他银币。
边塞上当时经常有战事，言官推荐张岳有担任边帅的才干。伯温说“：张岳可以在南方，翁万达适合往北方去。”于是提拔张岳做右佥都御史，巡抚郧阳。不久调到江西做巡抚，又升为右副都御史，总督两广军务兼任巡抚。期间，他征服了广东封川僮民苏公乐等人的造反，升到了兵部右侍郎。又平定了广西马平等县的瑶族盗贼，先后俘获、斩首四千多人，招安两万多人，诛杀了盗贼的首领韦金田等人，被增加了一级官俸。朝廷想召他还朝当刑部右侍郎，因为御史徐南金的话又让他继续留任。连山的盗贼李金和贺县的盗贼倪仲亮等，出没在衡阳、永州、郴州、桂林之间，积三十年之久没能平定，张岳联合大军加以讨伐，擒住了他们。他在两广的兵镇坐了四年，区域内的强盗巨寇全被荡平了，朝廷于是召他回朝当了兵部左侍郎。
两湖、贵州之间有座山叫蜡尔山，各部苗民住在那里。这个地区东部属镇溪千户所..子坪长官司管辖，隶属湖广；西部属铜仁、平头两个长官管辖，隶属贵州；北边接近四川酉阳，整个山区宽广几百里。各部苗民几度造反，官兵不能打败它。侍郎万镗讨伐它，四年之久没能成功。朝廷于是只好授给他们的头领龙许保一个官职。湖广的苗民叛乱暂时停止了，可是贵州的苗民一如既往地在造反。万镗班师后，龙许保和他的党徒吴黑苗又叛乱起来。贵州巡抚李义壮报上战警以后，世宗就任命张岳去总督湖广、贵州、四川军务，讨伐苗贼，提升他为右都御史。义壮坚持万镗的主张想招安苗贼，张岳弹劾他阻挠用兵，罢了他的官。过去在义壮之前担任过贵州巡抚，现任佥都御史的王学益和万镗一道依附严嵩，主张收抚苗贼，他们几度从宫廷中间作梗，阻挠张岳。张岳更加坚持自己的意见。许保通过袭击把印江知县徐文伯及石阡推官邓本忠给抓去了，张岳因此被扣发了俸禄。于是他派总兵官沈希仪、参将石邦宪等分路进兵，自己入铜仁坐镇指挥，先后斩杀盗贼首领五十三个人，只有许保、黑苗跳出圈套，没能逮住。张岳向朝廷奏上捷报，说贵州的苗贼逐渐平息了，湖广的苗民接受招安，请分遣士兵回家务农，朝廷的意见同意了他。没多久，酉阳宣慰冉元教唆许保、黑苗突袭思州，劫持了知府李允简。邦宪的部队拦截作战夺回了允简，但他最后还是死了。严嵩父子本来就恨张岳，这时就想把他给逮捕治罪，徐阶坚决不同意。于是就剥夺了右都御史的官衔，让他以兵部侍郎的名义指挥作战。邦宪等将领不久就打败了苗贼。张岳派人在山林中搜捕，残余的盗贼交出了思州的大印和许保。湖广的部队也打败敌人，捉拿了首恶李通海等人。张岳因为没拿到吴黑苗，不敢往上报功。不久冉元的底细暴露了，张岳揭发了他干的坏事。冉元就贿赂严世蕃指责张岳对苗民斩尽杀绝。邦宪最后终于抓到吴黑苗，把他献上来了，苗民的叛乱至此才算告息了。
张岳死在沅州。他的棺木回乡时，沅州百姓一路迎接、哭送的人连续不断。后来，朝廷给他论功，恢复了他右都御史的官衔，追赠他为太子少保，谥襄惠。
张岳博览群书，文章也做得好，对经学造诣精深，不喜欢王守仁的学说，而是把程、朱看作正宗。