张岱字景山，是吴郡吴县人。祖父张敞，晋时曾任度支尚书，父亲张茂度，宋朝时任金紫光禄大夫。
张岱少时与其兄太子中舍人张寅、新安太守张镜、征北将军张永、其弟广州刺史张辨都很知名，号称“张氏五龙”。张镜少时与光禄大夫颜延之做邻居，颜延之高谈阔论痛饮美酒，喧呼不休；而张镜静静地不大声说话。后来颜延之在篱边听见他和客人说话，拿个胡床坐篱边静听，听他辞义清玄，颜延之心服，对宾客说：“那边有个人物啊。”从此不再痛饮大嚷。张寅、张镜名气最大，张永、张辨、张岱不及。
郡里荐举张岱为上计掾，没成行，州里聘他为从事。后来迁任南平王右军主簿，尚书水部郎。出京补东迁县令。
当时殷冲为政吴兴，对人说：“张东迁家贫需奉养，因此暂时栖身小邑。但是名声才能已经显露，终当大有前途。”
随王刘诞在会稽起义，任用张岱为建威将军、辅国长史，行县事。事平后，张岱任司徒左西曹。他母亲八十岁了，任职期未满，张岱便离职回去奉养，有司因张岱违反制度，想要惩罚他，宋孝武帝说：“看过失可知他的仁，不要追究了。”后来他先后迁任抚军谘议参军，领山陰令，他处理公事娴熟明白。
巴陵王刘休若任北徐州刺史时，还没能亲理政事，任张岱为冠军谘议参军，领彭城太守，行府、州、国事。后来临海王为征虏将军广州刺史，豫章王为车骑将军扬州刺史，晋安王为征虏将军南兖州刺史，张岱历任三府谘议、三王行事，和典签主帅共事，办事成功，关系融洽。有人对张岱说：“主王年幼，管事的又很多，而你总能调和公私关系，是怎样做到的？”张岱说：“古人说一心可以事奉百君。我为政端正公平，以礼待物，不好的事自然不会发生。政事的清明昏暗长长短短，更是才能大小的体现啊。”
还都任黄门郎，迁任骠骑长史，领广陵太守。新安王刘子鸾非常受宠因而被任为南徐州刺史，又把吴郡划给南徐州。帝严格挑选僚佐。孝武帝召见张岱对他说：“卿美誉一直很高，且资宦已经很多了。现在欲让卿作子鸾别驾，总管刺史之事，不要说屈才，最终会让你大展身手。”孝武帝驾崩后，张岱迁任吏部郎。
明帝执政初期，四方造反。明帝因张岱干练可靠，任他为持节、督西豫州诸军事、辅国将军，西豫州刺史。不久移任冠军将军、北徐州刺史、都督北讨诸军事，都没去到官。泰始末年，任吴兴太守。元徽年间(473～477)，迁任使持节、督益、宁二州军事、冠军将军、益州刺史。数年间，益州被治理得社会安定。又调任侍中，领长水校尉，度支尚书，领左军，升任吏部尚书。王俭当时任吏部郎，时时专断吏部的事，张岱每每和他意见不一致，后来王俭做了宰相，以此对岱颇不友好。
其兄之子张环、弟张恕，诛杀吴郡太守刘遐。太祖欲使张恕为南齐书政晋陵郡，张岱说：“张恕不宜从政，美锦不宜滥裁。”太祖说：“张恕的为人我很清楚。并且又和张环立了同样的大功，自当有赏。”张岱说：“如果因家贫赏赐俸禄，这另当别论；若说因功勋而获此任，这是臣家门之耻。”
不久张岱加任散骑常侍。建元元年(479)，出京任左将军、吴郡太守。太祖知张岱历任官职都很清廉正直，到郡里不久，亲笔下敕给张岱说：“吴郡乃是大郡，责任重大，因此不想再换别人，但总管的军事政务很繁多，应当名符其实，现任命卿为护军。”加给事中。张岱拜官完毕，朝廷诏命他以家为府。张岱向朝廷报告自己的病情。第二年，迁任金紫光禄大夫，领鄱陽王师。
世祖即位，又任张岱为散骑常侍、吴兴太守，俸禄待遇级别为二千石。张岱晚年在吴兴，更以宽厚仁恕著名。迁任使持节监南兖、兖、徐、青、冀五州诸军事、后将军、南兖州刺史，常侍如故。未拜官，亡故。其时七十一岁。张岱当初有遗命，将家财分封于箱子里，随家业的增减而有所改变，如此执行十几年。追赠本官，谥号“贞子”。