牛弘字里仁，安定鹑觚人。其先人为了避难，改姓辽氏。祖父炽，本郡中正。父元，任魏侍中、工部尚书，爵临泾公，复本姓牛氏。
弘在襁褓中，有相士见到他，对他的父亲说：“此儿命当大贵，好好地抚养他。”长大后，形貌甚伟，性格宽厚，喜好读书，博闻广识。任职于周朝，历任中外府记室、内史上士、纳言上士，专掌文翰，修起居注。后袭封临泾公，转任内史下大夫、仪同三司。
开皇初年，授散骑常侍、秘书监之职。牛弘因典籍遗落散失，上表请求开献书之路，其表称：
“昔日周德既已衰微，旧经乱弃。孔子凭大圣人的才能，开创大业，制定法令，制《礼》删《诗》，正五始而修撰《春秋》，阐发《十翼》，弘扬《易》道。及秦始皇统一天下，吞并诸侯，先王典籍，焚毁殆尽。这则是书籍的第一次厄难。汉朝建立，制定藏书的政策，设置校书的官职。到了孝成帝，派遣谒者陈农搜求天下的遗书。诏令刘向父子校勘篇籍。汉朝的典籍文献，到这个时候算是最盛。到王莽末年，全部焚烧。这是书籍的第二次厄难。光武继兴，特别重视经籍诰令，未及下车，先求文雅。到了肃宗，亲临讲舍，和帝数次临幸书林，兰台、石室、鸿都、东观等殿堂，满是书籍，更超过从前。及孝献迁都，吏人扰乱，图书缣帛，都被用作帷帐行囊。收拢起来往西京运的，装了七十多车，逢西京大乱，一时间被烧个净光，这是书籍的第三次厄难。魏文帝代汉自立，重新收集经典，都藏在秘书省，占用了内外三座楼阁，遣秘书郎郑默删定旧有的书籍，论者都称赞其所删优劣有别。晋朝继承魏朝，文章典籍更多。晋秘书监荀勖定《魏内经》，另著《新簿》。逢刘粲、石勒进犯，书籍又在逃遁中丢失。这是书籍的第四次厄难。永嘉之后，寇贼四起，其建立国家，虽传名号，法令礼乐，却寂灭无闻。刘裕平定姚氏，收其图籍，《五经》子史，总共才有四千卷，皆是赤轴青纸，文字古拙，一并归于江南。宋秘书丞王俭依照刘氏《七略》，撰写《七志》。梁人阮孝绪也撰写有《七录》。总计其书数，共三万多卷。及侯景渡江，消灭梁朝，秘书省的经籍虽经过战火，但文德殿内的书籍，依然保存了下来。萧绎占据江陵，派兵将平定侯景之乱，收集文德殿的书籍和公私典籍重本，计有七万余卷，全部送往荆州。及周兵入郢，萧绎把这些书集中在外城焚烧，所剩仅十之一二。这是书籍的第五次厄难。
“后魏自边远之地，迁居伊洛，时间不长，没有什么经籍。周朝创业于关右，战乱不断。周武帝保定初年，书籍仅有八千卷，后来又经搜集，才达到一万卷。高氏在太行山东建立齐国，开始的时候也采访书籍，和原本相比，残缺的特别多。东夏刚刚平安，获得的经籍史册，四部重杂，计有三万多卷。增加的旧书，只有五千卷。现在挑出的单本，合计一万五千多卷，部帙之间，仍有残缺。和梁朝旧有的书目相比，仅有其半数。至于阴阳、《河》、《洛》之类的书籍，医书图谱著作，更加少了。
“臣以为，经书自孔子至今，遭到五次厄难，重新兴集的日子，属于我皇圣世。如今秘书省的藏书，亦足够阅览。但一个时代的书籍，一定要大体具备。不可出现王府没有，私人却有的情况，如果广发诏令，兼以购买奖赏，则必可罗致难得的典籍，满积观阁。”
文帝采纳牛弘的建议，于是颁布诏令，献书一卷，赏缣一匹。一二年的功夫，典籍大体具备。牛弘晋爵为奇章公。
三年，升任礼部尚书，奉旨修撰《五礼》，刻成百卷，流行于世。牛弘请求依照古制，修立明堂。文帝认为各种事情刚刚开始，没有时间修造明堂，竟放下不去实施。
六年，牛弘官任太常卿。九年，诏令制定雅乐，又作乐府歌词，撰定圆丘五帝凯乐，交议制乐事。牛弘上议说：
“谨案《礼》书，五声六律，十二管循还奏出宫调。《周礼》奏黄钟，歌大吕，奏太蔟，歌应钟，都是循还相奏为宫调的意思。蔡邕《明堂月令章句》说“：孟春月则太蔟为宫，姑洗为商，蕤宾为角，南吕为徵。应钟为羽，大吕为变宫，夷则为变徵。别的月份和这一样。”所以，先王制作音乐，是为了区别天地四方阴阳之声。扬子云说“：声生于律，律生于辰。”所以，律吕配合五行，沟通八风，经历十二时辰，行于十二月份，循环运转，决无停止的时候。譬如立春木王火相，立夏火王土相，季夏之末，土王金相，立秋金王水相，立冬水王木相。依次为宫者，是说当其王月，名之为宫，如今十一月不用黄钟为宫，十二月不用太蔟为宫，就是因为春木不王，夏土不相。这岂不就是阴阳失调、天地不能交通吗？刘歆《钟律书》说：“春宫秋律，百花必定周彡零；秋宫春律，万物必然茂盛；夏宫冬律，必有大雨冰雹；冬宫夏律，必定雷声大震。”据此而论，律吕和阴阳天地的关系确实是不能改变的。况且律有十二，如今仅用黄钟调节，使用的只有七律，其他五律究竟再用于什么地方呢？这恐怕已失去了圣人制作音乐的意思。因此，必须根据《礼》书，重新制作循环为宫之法。”
皇上说：“不必制作循环为宫之法，只制作黄钟这一种调乐器就可以了。”牛弘又论六十律不可行：
“谨案《续汉书·律历志》‘：元帝派遣韦玄成在音乐官署问京房。京房回答说“：我师承已故小黄令焦延寿。六十律相生的方法是：用上生下，都是三生二；用下生上，都是三生四。阳下生阴，阴下生阳，至中吕而终，十二律就完了。中吕上生执始，执始下生去灭，上下相生，至南事而中，六十律就尽了。十二律变为六十律，就像八卦变成六十四卦一样。冬至那天的声音，以黄钟为宫，太蔟为商，始洗为角，林钟为徵，南吕为羽，应钟为变宫，蕤宾为变徵。这是声气的开始，五音的发端。因此各统一日，其余的按次序运行，所当之日自己为宫，商徵因类相从。”京房又说“：竹器之声不能用来测度调值，所以就制作准来确定调值数。准这种乐器形状像瑟，长一丈，十三根弦，距饰物处九尺，用来对应黄钟之律九寸。中央一根弦下，刻有分寸，用来作为六十律清浊的节拍。”执始一类律吕名称，都是京房自己制造的。京房说他师承焦延寿，不知焦延寿师承的是谁。到了元和元年(84)，待诏侯钟殷肜上书说：“朝廷官员没有人懂得用准这种乐器调节六十律的调值。因此待诏严嵩，请求用准法教授他的儿子严宣，希望召严宣补学官，主持调节乐器。”太史丞弘用十二律考试严宣，二律相符，四律不符，其余六个不知是什么律，严宣于是作罢。自此以后，音乐家再也无人能够调节准这种乐器。熹平六年(177)，东观召见主管音乐的太子舍人张光，询问准这种乐器的调制。张光等人不知道，回去翻检旧藏的乐器，找到了准，形状制作和京房记载的一样，还是不能确定其弦的缓急，因此，史官能辨识准音清浊的人就没有了。可以相传的，只有大榷常数和候气。’据此而论，京房的六十律相生之法，汉代已不能流行了。沈约《宋志》说‘：详案，古典和今天的音乐家，已无能把六十律用于音乐的人。’《礼》云‘：十二管循环奏出宫调。’不说六十。《封禅书》说‘：大帝使素女弹五十弦瑟而悲伤，破为二十五弦。’假使六十律能够成乐，也会有些不用，取的就是大乐必然省易，大礼必然简易的意思。”
又论道：
“案《周官》说：‘大司乐主管成均之法。’郑众注说：‘均，就是音调。乐师主管调节它的音调。’《三礼义宗》称：‘《周官》奏黄钟，是用黄钟为调，歌大吕，是用大吕为调。奏说的是堂下四处悬挂，歌说的是堂上所唱。只是在同一次祭祀的时候，二调皆用。’因此可知，根据宫来确定调，意思是一样的。阐明六律六吕相互为宫，各自为调。如今流行的音乐，用黄钟为宫，则就用林钟为调，与古制不同。案，晋内书监荀勖根据典籍记载，用五声十二律循环为宫之法，制成十二笛。黄钟之笛，正声与黄钟相应，下徵与林钟相应，把姑洗作为清角。大吕之笛，正声与大吕相应，下徵与夷则相应。其他各种音调，都像这样。然而，如今用的林钟，是荀勖的下徵调式。不用其正，先用其下，于理不通，因此必须改正。”
皇上认为牛弘的建议很好，诏令牛弘与姚察、许善心、何妥、虞世基等人订正确立新乐。之后，议论设置明堂，诏令牛弘条陈上代故事，论其得失。皇上非常敬重牛弘。
当时，杨素恃才矜持骄贵，轻贱侮辱朝中大臣，只有见到牛弘，未曾不改变面容，恭恭敬敬。杨素将去征伐突厥，到太常府与牛弘话别。牛弘送杨素到中门就止步了，杨素对牛弘说：“我身为大将，出征突厥，所以特意来话别，为何送这么近？”牛弘就拜揖而退。杨素笑着说“：奇章公真正可以说是其智可及，其愚不可及。”牛弘也不在意。很快，授大将军之职，任吏部尚书。
当时，文帝又令牛弘与杨素、苏威、薛道衡、许善心、虞世基、崔子发等人，一同召集众儒生，讨论新礼降杀轻重的问题，牛弘的议论，众人都很佩服。献皇后死，王公以下大臣不能确定用何礼仪制度。杨素对牛弘说：“公学通古今，众贤敬仰。如今这件事情，就取决于您了。”牛弘一点也不推让，不大一会儿，礼仪制度全部确定了，且都有过去的实例。杨素感慨道：“衣冠礼乐都在这里了，不是我所能及的。”牛弘以为服丧三年，祥礻覃之祭的用具应减少，期服十一个月而服练，没有什么依据，就把这种想法上奏文帝。文帝下诏除期练之礼，自牛弘开始。
牛弘任吏部尚书，选拔人才先德行而后文才，十分审慎。虽然选才有时迟缓，但所选用之人，大都称职。吏部侍郎高孝基，识鉴快捷机敏，清正谨慎，无人可比，然而豪爽有余，显得有点轻薄，当时的宰相们多因此怀疑他是否胜任。只有牛弘真正认识其人，真诚地委之以重任。隋朝的选举，这个时候最好，时论甚为佩服牛弘见识深远。
炀帝为东宫太子时，多次有诗书赠牛弘，牛弘也有答和。炀帝继位，曾赐牛弘诗说“：晋家山吏部，魏代卢尚书。莫言先哲异，奇才并佐余。学行敦时俗，道素乃冲虚。纳言云阁上，礼仪皇运初。彝伦欣有叙，垂拱事端居。”一同得到赐诗的人，赞扬的文词，没有人能像牛弘这样，受到如此的赞美。大业二年，晋位上将军。三年，改任右光禄大夫。跟从炀帝拜南岳恒山，拜祭所需的物品，都是牛弘确定的。还下太行山，炀帝曾召牛弘入内帐，当皇后之面赐同席饮食。其亲宠重用如此！牛弘对他的儿子说“：我受到非同寻常的礼遇，承恩深重。你们这些子孙，应该以诚敬自立，报答皇上丰隆的恩遇。”六年，跟随炀帝巡幸江都，死于途中。炀帝伤心痛惜，追赠非常丰厚。归葬安定，追赠开府仪同三司、光禄大夫、文安侯，谥号为宪。
牛弘一世荣宠，但是车马服饰卑微节俭，事上尽礼，待下宽仁，说的少，做的多。皇上曾令他宣读敕书，牛弘到了台阶下，没有宣读，退回拜谢，说把敕书上的话都忘掉了。皇上说“：宣旨之类的小事，本来就不是宰相们的事。”更加赞扬牛弘诚厚耿直。炀帝的时候，委任恩遇更为丰隆。牛弘性格宽厚，笃志好学，虽公务繁忙驳杂，而书却不离手。隋朝的旧臣，始终受到信任，而又没有悔恨的，只有牛弘一个人。其弟牛弼，好酒而又酗酒，曾经醉酒射死了牛弘的驾车牛。牛弘回到家里，妻子迎上前说：“叔叔射死了牛。”牛弘听到后，没作任何怪问，直接答道“：作牛肉脯。”坐下后，妻子又说：“叔叔忽然射死了牛，真是怪事。”牛弘说“：已经知道了。”神色自如，读书不止。牛弘宽厚和气如此。有文集十二卷流行于世。