扈蒙字日用，幽州安次人。其曾祖父扈洋任涿州别驾。其祖父扈智周任卢龙军节度推官。其父扈曾任内园使。
扈蒙年轻时会写文章，后晋天福年间，考中进士，到后汉任..县主簿。赵思绾叛乱，朝廷派遣郭从义征讨。郡县官吏都穿短促军服，扈蒙穿着肥大的儒服，举止舒缓，从义感到很惊讶。转运使李谷对从义说：“扈蒙是文学名流，不熟悉公事。”于是不再追问。后周广顺年间，跟从归德军节度赵晖任掌书记，召入朝任右拾遗、直史馆、知制诰。扈蒙的叔伯兄弟扈载当时任翰林学士，兄弟二人掌握朝廷内外制令，当时号称“二扈”。
宋朝初期，由中书舍人升任翰林学士，因向同年仇华请托私事违法，被贬为太子左赞善大夫，渐渐升职任左补阙，掌管大名集市征税。乾德六年(968)，重新任知制诰，充任史馆修撰。开宝年间，受诏与李穆等人同修《五代史》，审定《古今本草》。开宝五年，连续主持贡举。开宝七年，扈蒙上书说：“以前唐文宗每次召见大臣商量政事，一定命令起居郎、起居舍人拿着笔在殿侧站着，记载时政，所以《文宗实录》较为详备。到后唐明宗时，也命令端明殿学士及枢密直学士轮流修撰每日政事，送给史官。近来这些措施都被废除了，每季虽然有内殿日记，枢密院录送史馆，但是所记不过臣下对见辞谢之类而已。帝王的语言和行动，都未写进去。原因是宰相担心泄露，传播有误，史官疏远，哪里能知道。希望从今以后凡是裁制之事、优恤之言，发自内心，可写进书简的，都委托宰相及参知政事每月轮流主持抄录，以备史馆撰集。”朝廷采纳了，就以参知政事卢多逊主管这件事。
开宝九年正月，皇帝在乾元殿接受朝拜，各地降王在旁列队，声明大备。扈蒙呈上《圣功颂》，备述太祖接受禅位、统一天下的功劳，言辞夸丽，有诏令褒奖他。被卢多逊忌恨，调出京城任知江陵府。
太宗即皇帝位，召他入朝授任中书舍人，不久重任翰林学士。与李日方一起同修《太祖实录》。太平兴国四年(979)，跟从太宗征伐太原回朝，转任户部侍郎，加任承旨。雍熙三年(986)，染上疾病，以工部尚书衔退休。不久，去世。终年七十二岁。追赠右仆射。
自从张昭、窦仪去世，朝廷典礼章程仪式，多由扈蒙刊定。当初，太祖接受后周禅位，追尊四庙，到郊外祭祀祖父，以宣祖配天。到太宗登皇位，礼官认为舜郊拜砶，商朝郊拜冥、周朝郊拜后稷，王业因他们而兴旺啊。至于汉高祖的太公，光武帝的南顿君，虽然有皇帝父亲的尊严，却不能享受配天的祭祀。所以自从太平兴国三年、六年两次郊拜，都以太祖配天，于礼是公允的。太宗即将到东边封禅时，扈蒙建议说：“严父莫大于配天，请以宣祖配天享祀。”自从雍熙元年罢去封禅而举行郊祀礼，于是施行扈蒙的礼制，有识之士认为这种礼制不公允。
扈蒙为人沉重厚道，不谈别人的是非，喜欢佛教经典，不喜杀人，缙绅士大夫们称他是善人。有爱笑的毛病，即使在皇上面前也禁不住。他著述很多，有《鳌山集》二十卷流行于世。扈载字仲熙，有传记，见五代史。