范质字文素，大名宗城人。他的父亲范守遇，任郑州防御判官。范质出生那天傍晚，他的母亲梦见神仙授给她一支五色笔。范质九岁能写文章，十三岁研究《尚书》，并教授学生。
后唐长兴四年(933)，考中进士，被任为忠武军节度使推官，后迁升封丘令。晋天福年间(936～942)，用文章游说宰相桑维翰，宰相很器重他，即上奏封他为监察御史。到维翰出京师去镇守相州，历任泰宁节度使、晋昌节度使时，维翰都请求朝廷让范质给他当从事。桑维翰第二次任宰相时，范质迁升为主客员外郎、直史馆。一年多后，召范质入朝任翰林学士，加任比部郎中、知制诰。契丹侵扰边境，少帝命汉祖等十五位将领出征。当天夜晚，范质在朝中值班，少帝命令召诸位学士来起草诏令，范质说：“宫城已经关闭，如再召人恐怕事机泄露。”范质单独起草诏令进送少帝，文词事理都很优秀，当时即受称道。后汉初，加封范质为中书舍人、户部侍郎。周祖征伐叛乱，每次朝廷派遣使者下诏处理军事，都符合机宜。周祖问使者是谁起草的诏令，使者答称是范质。周祖叹道“：真是宰相之料啊！”
周祖从邺地起兵攻向皇宫，京城纷乱，范质藏匿民间，周祖派人到处寻找，后来找到，非常高兴，当时正下大雪，周祖解下自己的袍衣让给范质穿。并命令范质起草太后诰命及商议迎湘阴公礼节，范质急速起草，很合周祖心意。于是周祖告诉太后，任命范质为兵部侍郎、枢密副使。后周广顺初年，加拜他为中书侍郎、平章事、集贤殿大学士。第二天，兼任参知枢密院事。郊祀完后，升迁官位左仆射、门下侍郎、平章事、监修国史。跟随皇帝征伐高平回来，加官司徒、弘文馆大学士。显德四年(957)夏天，跟随皇帝征伐寿州回来，增加封爵食邑。范质提出因为法律条例繁冗，轻重没有依据，官吏得以因缘为奸。世宗特命他详细审定法律，这就是《刑统》。六年(959)夏天，周世宗北征，范质因病留在京师，世宗赐给他钱百万用来就医买药。到世宗平定关南，到达瀛州时，范质在路的左边迎见。军队回到京师，世宗任用枢密使魏仁浦为宰相，任命范质与王溥一同为参知枢密院事。周世宗有病，范质入宫接受临终遗命。恭帝即位，加封范质开府仪同三司，封为萧国公。
到宋太祖北征，被军队拥戴为皇帝，从陈桥回到官邸。此时范质正在楼中吃饭，太祖一到，率领王溥、魏仁浦来拜见。太祖对他呜咽哭泣，陈述拥戴被逼之状。范质等还未对答，军校罗彦..举刀对范质比划着说：“我们没有主上，今天必须得到一个天子。”太祖叱骂不走彦..，范质不知所措，就与王溥等人走下阶梯听命。
宋初，加官兼侍中，罢参知枢密一职。不久病了，太祖征伐泽、潞二地，到他的宅第，赐给他黄金器二百两、银器一千两、绢二千匹、钱二百万。太祖刚即位，诸事谦逊自抑，至于藩镇亲戚还没有封建，幕府宾客佐僚没有官位。范质因此上奏说：“自古帝王开创基业，都分封子弟，树立屏障，宗族亲戚一旦兴隆，国家就可长久巩固。我看皇弟泰宁军节度使赵光义，自从在军队中任职，特别有将才，树立为藩镇后，尤其积累起名望；嘉州防御使赵光美，雄俊老成，注重修养好行善，好声誉日有所闻。乞求一并颁发封册，赐给爵位。皇子皇女虽然还是婴儿的，也请下诏让有关部门可以推行恩封之制，这是我的愿望。臣又听说当宰相的，应当推举贤能之人，来辅佐天子。我认为端明殿学士吕馀庆、枢密副使赵普精通治国之道，事从霸府，时间很久，看他们的公忠之志，很可倚靠利用。请求授给他们朝廷要职，使他们的才能得以申展。”皇帝很赞许并采纳了他的意见。
原先，宰相朝见天子商议重大政事，皇帝必定命令宰相坐下来面议，皇帝从从容容赐茶后告退，唐朝及五代还遵照这个制度。到了范质等人畏惮皇帝英明睿智，每次议事都具写公文进呈，向皇帝陈述说：“这样才算臣子们禀承圣意之方，免除妄庸的过失。”皇帝采纳了这个意见。从此奏御越来越多，开始废除坐论的旧礼。
乾德初，皇帝将在圜丘祭天，任命范质为大礼使。范质与卤簿使张昭、仪仗使刘温叟讨论旧的典章制度，审定《南郊行礼图》呈上。皇帝特别嘉奖他们。从此礼仪制度开始完备，范质自己作了序。礼仪完毕后，进封范质为鲁国公，范质向皇上呈表再三推辞，皇上不允许。二年(964)正月，罢官任太子太傅。九月，范质死去，终年五十四岁。将死的时候，告诫他的儿子范..不要向朝廷请赐谥号，不要刻墓碑。太祖听到这件事，为之感到悲痛而罢朝。追赠中书令，送绢五百匹，粟、麦各一百石，给范家办丧事。
范质力学强记，生性敏悟。考进士时，和凝以翰林学士身份主管贡部。观读范质的考试文字，很器重他，因为自己登进士第时名在十三，所以和凝也把范质的名次也排在这个数。贡院中称这件事为“传衣钵”。后来范质官登相位，做太子太傅，被封为鲁国公，都与和凝一样。当初，范质进入朝廷做官，还能常常手不释卷，有人慰劳他时，范质说“：有擅长相术的人，说我今后位登宰相。如果真是这样，不学习哪来权术处理政事。”后来跟随周世宗征伐淮南，诏令多由他起草，吴中文士们没有不惊服的。范质每次下制敕，从未不合律令，命令刺史县令，一定以户口版籍为头等政事。朝廷每次派遣使者视察民田，巡视狱讼，范质都接见他们，向他们陈述天子忧虑勤政的意图，然后派遣他们。
世宗当初征伐淮南，驻扎在寿、濠二地，锐意攻取，还准备到扬州。范质认为军队征战太久，与王溥泣谏，世宗才放弃这个念头。到世宗第二次到扬州，窦仪因事得怒于世宗，不知将定何罪。范质入宫求见，世宗知道他是来救窦仪的，站起来避开他。范质上前说：“窦仪是近臣，过错很小不应当诛杀。”于是摘下官帽叩头泣，说：“臣位在宰相，难道能让人主暴怒，致使近臣就死吗？请求宽赦窦仪的罪过。”世宗怒意才消解，回到座位，马上遣使者赦免窦仪。
范质性格偏急，爱当面驳斥人，使对方屈服。以廉洁耿介自持，从未接受各方人士的馈赠，前后的优厚俸禄赏赐常常送给孤寡之人。内室之中，吃饭不相异。身死后，家里没有多余的钱财。太祖议论宰相时，对侍臣说：“朕听说范质只有住宅，不置产业，是个真正的宰相啊！”太宗也曾经称赞他说“：宰相中能够遵循规矩，慎于名声才能，坚守廉节的，没有人比范质做得更好，但范质没有替世宗一死，真是可惜。”范质的侄子范杲上奏请求迁升秩阶，范质作诗晓谕他，当时人遍为传诵作为劝诫。有文集三十卷，又叙述朱梁至周五代历史写成《通录》六十五卷，流行于世。儿子名范..。