翟守素，济州任城人。父亲翟溥，为后晋左司御率府率。翟守素因父亲官职之故任殿直，历后汉、后周，升为供奉官，管领承天军使。宋乾德年间，他为引进副使，跟随王全斌伐蜀，以来回奔跑报告军事情况为职。蜀平定后，升为判四方馆事。宋廷以两川反叛余党未灭，担心招致骚乱，再令翟守素入蜀经略诸郡，分兵用以防守阻遏敌人。
开宝年间(968～975)，恰逢麟、府州内附的戎人争地纠纷没能解决，因而导致扰乱，朝廷命翟守素迅速前往安抚晓谕。他辨明是非曲直，戎人心悦诚服。他跟随皇帝征太原，皇帝命海州刺史孙方进围汾州，命翟守素监军，转任引进使。
开宝三年(970)，翟守素受命任剑南十州都巡检使，东上..门使郭崇信为其副职。赏赐翟守素钱五百万，他入朝答谢皇帝的那天，皇帝又派他为岐州帅臣符彦卿官告使。他以赏赐甚优厚不敢再当奉使之诏相辞，皇帝不答应。开宝九年，吴越国王钱亻叔来宋朝见，皇帝命翟守素护卫诸司供帐，在郊外迎接慰劳。当时并州堡垒没攻克，皇帝诏令翟守素与氵名州防御使郭进率军深入其境，践踏其地的庄稼，翟守素所俘获颇多。宋太宗登上皇位，升翟守素为客省使，兼任宪州刺史。
太平兴国三年(978)夏天，黄河在荥阳决口，皇帝诏令翟守素发郑州的成年男子一千五百人与士兵一千人护塞黄河。这年秋天，梅山洞蛮依险反叛宋廷，皇帝诏派翟守素领诸州屯兵前去进击梅山蛮。正值霖雨不停地下了十多天，士兵的弓弩都松弛了，不能使用，第二天，将要与梅山蛮交战，翟守素一个晚上命令削木为弩。等到天亮，蛮兵蜂拥而至，交叉射击，蛮兵败退。翟守素率兵乘胜追击逃兵，全部平定了蛮兵造反据点。先前，许多郡的长吏、富人多与蛮族首领包汉阳交往联系，不久翟守素获得了他们交敌的书信几百封，他一并烧掉，反叛者得以安定。
不久钱亻叔向宋进献浙右之地，皇帝诏令翟守素为两浙诸州兵马都监，安抚各郡，当地民心很悦服，朝廷随即让他知杭州。满一年后，翟守素任西京巡检使。秦王赵廷美因事被勒令归其住宅，朝廷令翟守素权知河南府兼留守司事，所属之地洛阳年旱缺食，多盗贼，皇帝很担忧，翟守素来上任后，逐渐地加以平息。没多久，他迁任商州团练使。
雍熙二年(985)，翟守素改任知延州。自从刘廷让在君子馆战败，河朔各州城墙堡垒大多毁坏了。雍熙四年，皇帝诏令翟守素与田仁朗、王继恩、郭延浚分路检查，征发各州镇兵增筑损坏的城墙，他们督护工程。赐翟守素白金三十两，留他任天雄军兵马钤辖、知大名府，又改任知潞州。恰逢建造方田，朝廷命他任代北方田都部署、并州兵马钤辖，屯驻夏州，改任知凤翔府。
淳化年间，夏州首领赵保忠上书朝廷说，他的弟弟赵继迁引诱戎人进犯，请求朝廷派援军。皇帝诏令翟守素率领军队再屯驻夏州，没多久，又移兵石州，翟守素以年老有病上书请求回原籍，皇帝答应了他的请求。淳化三年(992)，翟守素去世，终年七十一岁。
翟守素历事四个朝代，连续任内职五十多年。他性格谨慎，宽厚仁义，能容纳众人，所到任之处有政绩。凡是决断死刑案件，即使犯人罪状已明白清楚，他仍要遍询同僚，大家都同意后才作出判决；他对下属有过失不当面驳斥，必定趁着公宴时援引与此相类的往事说明他做错了，用以稍稍警诫属下。新提拔的晚辈多官至节度使、元帅，而翟守素很长时间停留在原职不得升迁，他一点也没有觉得困迫失意，时论因此称赞他。