张宪，字允中，晋陽人，世代因军功为牙校。张宪还是儿童时，喜爱儒学，一心研读经典，不分白天黑夜。太原地势雄险偏僻，人多崇尚武力，以读书为耻，只有张宪与同乡药纵之专心游学，少年时尽通各种经典，特别精通《左传》。曾带着所学的书，谒见判官李袭吉，一见就欣喜惊叹。告辞时，对张宪说：“你努力吧。将来一定会成为良材。”石州刺史杨守业喜欢收藏书籍，把家里书给他看，他的见闻一天天更渊博。
庄宗为行军司马时，广招英俊人才，早就听说张宪的名气，令朱守殷带书信钱币邀请他，一年后以平民身分任交城令，任期届满，庄宗即位，补太原府司录参军。此时霸府初开，幕客马郁、王缄，是燕地名士，全都与他交游。十二年，庄宗平定河朔，思念过去藩府的旧属，征召张宪到行台。十三年，授监察，赐穿绯色服饰，任为魏博推官，从此一直执笔随从。十五年，王室军队在胡柳作战，周德威军队失利，张宪与同事骑马渡河往北，梁军在后急追，十分危险。到天晚渡黄河时，人都陷没水中，张宪与侄子张朗踩着冰走，快到岸时，冰陷，张朗流着眼泪，用马鞭接引张宪，张宪说：“我的孩子快走，不要都陷下去。”张朗说：“不忍心叔叔陷没，一起死了也无遗憾。”张朗伏在地上伸出马鞭，张宪跃身而出。这一夜，庄宗下令在军中寻找张宪，有人说：“和王缄一起死了。”庄宗流泪要找到尸体，几天后听说他脱险了，派使者慰劳他。不久改任掌书记、水部郎中，赐金紫色服，历魏博观察判官。随从讨伐张文礼，镇州平定后，授魏、博、镇、冀十郡观察判官，改考功郎中，兼御史中丞，临时掌镇州留守事务。庄宗即皇帝位，诏令回魏都，授尚书工部侍郎，充租庸使。八月，改刑部侍郎，掌管吏部选拔工作，兼太清宫副使。庄宗迁都洛陽，任张宪为检校吏部尚书、兴唐尹、东京副留守，主管留守事务。张宪学识广博高深，尤其精通政治，剖析听断，人不敢欺。
三年春，庄宗御驾到邺都，此时易定王都来朝见，庄宗在行宫设宴招待，准备击鞠。起初，庄宗举行即位典礼，占卜说鞠场吉利，因此在其间修筑礼坛，到现在下诏毁掉礼坛。张宪上奏说“：即位坛是陛下祭接天神受命的地方，除了风吹雨打之外，不可随意毁掉，也不可修理。魏州繁陽坛、汉州汜水坛，到今天仍有兆象显示。存而不毁，是古已有之的规矩。”便下令在宫西修鞠场。数日未成。正好张宪因为公事受到责难，在阁门等待治罪，皇上大怒，告诉有关官员加快修治行宫宫庭，碍事的人全辞掉，最后还是毁了即位坛。张宪私下对郭崇韬说“：不祥之极，忘掉了根本。”
秋，郭崇韬带兵征讨蜀地，用亲笔书信告诉张宪说：“你避事已很久，我受命西征，已上奏皇上让你返回朝廷。”张宪回信说“：厨师代替尸祝，您所上奏的不是我想要干的事。”当时枢密承旨段亻回扬言说“：北门是国家根本，非有德高望重的不可轻易授予，现在要人，非张宪不可。”趋炎附势的人附合段亻回，巧为中伤张宪。又说：“张宪有宰相之业，然而国运中兴，宰相在天子面前，得失可以改变，一方之事，决定在于一人，只有北面事情重大。”十一月，授张宪银青光禄大夫、检校吏部尚书、太原尹、北京留守，掌管北京府务。
四年二月，赵在礼进入魏州，此时张宪的家属正在魏州。关东受到扰乱，赵在礼善待张家，派人送信到太原引诱张宪。张宪杀掉来使，信不启封就上奏。不久明宗被众兵劫持，各军离散，张宪相隔遥远不知事实，有人对张宪说：“蜀军没到，洛陽危急，总管又失去兵权，命令出自各军，又听说河朔推戴新的君王，事情如属实，或许有希望？”张宪说：“治乱的时机，间不容缓，以我推断，事态尚不明朗。我听药纵之说过，总管德量仁厚，一贯深得军心，其余不用多说，专心留意这个而已。”四月五日，李存渥自洛陽来到，口传庄宗命令，并没有诏书，只说天子授以一只箭，拿来以作为凭信。众人感到迷惑，时事不可预测。左右的人献策说“：李存渥所骑的马，已不见有饰物，他又召人去谋划事情，一定有陰谋祸行，想占据城垒。宁肯我负于人，应及早处置他，只要杀掉吕、郑两个宦官，并且拘留李存渥，慢慢观察事情变化，可保万全了。”张宪很久才说：“我本是一介书生，没有军功而身居此位，一旦自布衣百姓而纡金拖紫，向来仕宦不出其他门路，这个计策不是我的心意。事情若有不成功，将以身殉义。”第二天，符彦超杀吕、郑二人，军城大乱，烧杀抢劫到天亮。张宪刚听到变乱，出城奔到沂州，不久有关官员追究他放弃州城之罪，四月二十四，赐死于晋陽的千佛院。其幼子张凝随父亲出走，也被收捕者害死。明宗行郊礼大赦天下，有官员请为张宪昭雪，明宗同意。张宪沉静寡欲，喜爱收集图书，家藏五千卷书，公事之余，亲手刊校。善弹琴，不饮酒，与宾客同僚宴会谈话，只论文吟诵而已，士友很尊重他。
张宪的长子张守素，在晋朝做官，位至尚书郎。