张叔夜字嵇仲，是侍中张耆的孙子。年轻时喜欢谈论兵法，因父荫被任命为兰州录事参军。兰州本来是汉代金城郡，属地在最边缘的地方，依靠黄河自固，每年黄河冰期，一定整军以备，士卒几个月不离武器。叔夜说：“这不是上策。不找险要地势防守，却让敌人逼近黄河，我方就危险了。”有个叫天都的地方，介于五路之间，羌人侵犯内地，一定先到那个地点集中，然后商议侵犯的方向，每次一集中五路所达之地都受到震惊。叔夜巡视那里的地形，谋划攻取之策，最后夺到了，设为西安州，从此兰州没有羌人之患。
任知襄城、陈留县，是蒋之奇推荐的，改任礼宾副使、通事舍人、知安肃军，舆论认为朝廷对他待遇太优厚，还任旧职。向朝廷献上自己的文章，被授任知舒、海、泰三州。大观年间，任库部员外郎，开封少尹。再次献文章，朝廷召他考试制诰，赐他为进士出身，升任右司员外郎。
出使辽国，在宴射中，首先射中目标。辽人惊叹诧异，要求看他用的弓，因为没有前例，他拒绝了。回国后，他画出辽国的山川、城郭、服器、仪范共五篇，上奏给朝廷。他的堂弟张克公弹劾蔡京，蔡京迁怒于张叔夜，抚司找出他的小过错，把他贬任为监西安草场。很久以后，被召任为秘书少监，提升为中书舍人、给事中。当时官吏惰坏不忠诚，凡是出自门下省的命令，预先列出官衔，让人写上名字然后慢慢填写政事，称为“空黄”。叔夜极力要求革去这种弊端。升任礼部侍郎，又被蔡京忌恨，以徽猷阁待制身份再次出任海州知州。
宋江在河朔起事，转战十郡，官军不敢触其锋芒。宋江军队将到海州，叔夜派侦探侦知他们的去向，宋江军队直接到海边，抢走大船十多艘，运载战利品。张叔夜于是招募死士得到一千人，在城边设伏，而让轻兵在海边抵抗，引诱宋江军队作战。先把壮卒埋伏在海旁，等两军作战时，用火烧掉宋江军队的船只。宋江军队听说船被烧，都没有斗志，伏兵乘机攻击，活捉宋江军队的副首领，宋江才投降。
加任直学士，改任知济南府。山东各地盗贼突然到来，叔夜估计无力抵挡，对僚佐们说：“如果束手等待援兵，百姓将没有一个活下来，应当用计拖延。如果能拖延三天，我的大事就能成功。”于是拿出原来用过的赦免盗贼的文书，让邮卒送到郡里，盗贼们听说，果然稍稍松懈。叔夜在谯门会饮，显示自己的闲暇，派官员把恩旨告诉盗贼。盗贼猜疑不止，到晚上还未做出决断。叔夜调派五千士卒，趁盗贼松懈时加以攻击，盗贼们溃逃了，追杀数千人。因战功升任龙图阁直学士、知青州。
靖康改元，金兵南下，叔夜再次上章请求拨给骑兵，与诸将并力截断敌人归路，奏章未上报。改任知邓州。四道设置元帅，叔夜兼任南道都总管。金兵再次攻到，钦宗下手令催他入京保卫。立即自己统率中军，他的儿子伯奋率领前军，仲熊率领后军，共三万人。第二天出发。到了尉氏，与金人游兵相遇，转战前进。十一月十五日，到达京都，皇帝到南薰门接见他们，军容非常整齐。入宫谈话，张叔夜认为敌人兵锋锐利，希望像唐明皇避安禄山之乱那样，暂时到襄阳然后再准备到雍。皇帝点头同意。加任他为延康殿学士。闰月，皇帝登上城楼，叔夜在玉津园排列军队，铠甲放光，在城下拜舞。皇帝越发高兴，升任他为资政殿学士，令他带兵入城，不久任签书枢密院。接连四天，与金兵大战，斩杀金兵金环贵将二人。皇帝派使者送去蜡书，把褒扬宠任张叔夜的事情传告各地，但仍没有军队开来。城陷后，叔夜受伤，父子仍竭力作战。皇帝再次驾车出城，叔夜因此叩马而谏，皇帝说：“我为了百姓的缘故，不得不亲自前往。”叔夜痛哭着再次跪拜，人们都哭了起来。皇帝回头喊着他的字说“：嵇仲努力吧！”
金人打算另立异姓为帝，叔夜对孙傅说：“现在的事态，只有一死而已。”写信给金兵两位元帅，请求立太子为帝以符民望。两位元帅大怒，追到军中，到了后来叔夜仍然抗请如初，于是跟着皇帝到北方金国去。途中不吃饭，只不过不时喝些汤而已。到达白沟时，车夫说：“过了界河了。”叔夜就突然惊起，仰天大呼，于是不再说话。第二天，去世，终年六十三岁。死讯传来，朝廷追赠他为开府仪同三司，谥号为忠文。