王淮字季海，婺州金华人。他幼年聪颖，理解力强，刻苦学习写作。绍兴十五年(1145)考中进士，出任台州临海县尉。郡守萧振一见到王淮就认定他是一位奇才，声言王淮日后必成大器，萧振调任蜀帅后，将王淮辟为幕僚。萧振要离职，大家都想挽留，王淮说：“万里送母，难道会计较功名利禄。”众人都很佩服王淮学识与气度，王淮晋升为校书郎。
宋高宗下令中丞举荐可以充任御史的人，朱倬推荐了王淮，王淮因此被任命为监察御史，不久后升为右正言。王淮在第一次上高宗书中指出“：大臣养尊处优，下级官吏保持禄位，他们以搜刮为才智，以退出政坛相标榜。臣请陛下正心以正朝廷，正朝廷以正百官。”宰相汤思退有负众望，王淮上书高宗，列举数十条罪过，汤思退因此被罢免。吏部侍郎沈介欺世盗名，都司方师尹阴险狡诈，大将刘宝搜刮民财，交结权贵，王淮都一一予以弹劾，使这些人都被罢职。他又上奏说“：自治良策，朝廷上有三条：端正心术，孝敬父母，罢免使君主受蒙蔽而视听不明的小人。治理外朝有四条：稳定地方官员，选择将帅，严明赏罚，储备财用。”高宗读后认为很对。
王淮官拜秘书少监兼恭王府直讲。其时恭王生子赵挺，王淮告诉丞相说：“恭王夫人李氏生育了皇室嫡系长孙，恳请您讨论典章礼仪。”钱端礼对这种说法很气愤，上奏高宗：“王淮有年钧以长之说。”高宗说：“这是什么话，岂不是会开启邪心？”王淮被罢职离京，出任建宁知府，改任浙江西路提点刑狱。赴任之前，王淮至京师进见高宗，详些陈述福建地区的利病。高宗嘉奖了王淮，并让他前往东宫，皇太子以师礼相待，特行跪拜之礼。不久王淮被召回朝廷，任太常少卿，官拜中书舍人兼直学士院。龙大渊曾官为太师，同时仍给以仪同三司恩..，张说官拜太尉，主管在京宫观，王淮认为不合成例，都封还诏书。王淮出任翰林学士、知制诰，所拟文字精微醇厚，符合帝王诏敕样式。高宗下令选拔有文学行义之士，王淮举荐郑伯熊、李焘、程叔达，这些人均被起用。
淳熙二年(1175)，王淮被任命为端明殿学士、签书枢密院事。辛弃疾平定茶寇，上书请功太滥。王淮以为：“不核实真假，怎么能勉励有功之人。”文州少数民族侵扰边地，吴挺上奏：“库彦威出师失利，靖州夷人侵扰边地。”杨亻炎上奏“：田淇出战，遇敌溃败。”王淮对高宗说“：库彦威、田淇出师不利，然二将均战死沙场，如若还要论二将之罪，怎么能劝慰后来之人。”孝宗曾告谕臣僚说“：王淮处事公道，人无间言，任免选派官员都能很好地遵守规章制度。”王淮推荐军帅吴拱、郭田、张宣。王淮官拜同知枢密院事、参知政事。
当时宰相位空缺很久，王淮与李彦颍二人共同行使宰相职权。王淮说“：选择官吏，当以是否贤达为标准，不要计较以前的形迹。真是贤才，我亦不敢因为是同乡故旧而废弃；若无才能，我也不敢因与自己有私交而荫庇。”皇帝认为很对。王淮被提升为知院事、枢密使。孝宗认为武将祠禄官名额应当减少，王淮提出异议，他指出：“立有战功之人，壮年加以使用让其为国出力，年龄大了将其抛弃不管，这怎么可以呢？”赵雄说：“从金朝归附的人，给以员外身份安置，应当令他们去吏部报到，再加以安排。”皇帝说“：姑且按惯例办理。”王淮回答说“：皇上的意思即是天意。”赵雄又上奏说“：宗室祠禄名额为八百员，应当罢去。”王淮表示反对，他说：“尧亲睦九族，在普遍百姓之先；疏远骨肉之恩，可以吗？”其时辛弃疾平定了江西寇贼，王佐镇压了湖南寇贼，刘火享平息了广西寇贼，王淮均处置得当，论功行赏公正无私。孝宗表扬王淮，对他说：“陈康伯虽有声望，处事则不如爱卿。”
八年，王淮官拜右丞相兼管枢密院事务。在此之前，自初夏至深秋，长时间干旱，拜相当天，大雨如注，士大夫竞相庆贺，皇帝也很高兴，认为任相得人，老天感知而下雨，于是下令免除各地绢钱、人头税一年，合计缗钱达八十余万。
赵雄被罢相，蜀地在朝廷任职的官员很不安，都打算离职。王淮对孝宗说：“这是唐末党祸胚胎，难道是太平盛世所应有。”蜀士都依次晋级，人心这才安定。枢密都承旨恃宠胡作非为，王淮极力陈述他的罪过，并且说：“皇帝受到非议，大多是由于受宠人作恶所致。”孝宗立即将王扌卞罢免，并说：“丞相正直诚实，谈论无所隐讳，君臣之间就应该这样。”章颖上书论事疏狂直率，皇帝很生气，打算将章颖贬官，王淮不同意，他说“：陛下喜欢听真话，士大夫就以敢讲真话相标榜，这种士风值得庆贺。贬斥章颖正好成就了他敢讲真话的美名。”皇帝听后很高兴，章颖被留任。
当时以荒政为急务，王淮说：“李椿阅历深又通晓人情世故，当让他出镇长沙，朱熹忠厚老实，有学问有品行，应让他出任浙东提举，以为郡国倡导。”事后论功行赏，皇帝说：“朱熹留意所管事务。”王淮说“：实施荒政，这是行其所学，百姓得到了实惠，我想为他晋级。”皇帝说“：让朱熹升任直徽猷阁。”成都缺帅，皇帝物色人选，王淮举荐留正。皇帝问道“：留正不是福建人吗？”王淮回答说：“立贤不论地域，商汤不偏不倚做得很公平。一定要说闽地出了章子厚、吕惠卿那样的奸臣，同一地区不也出了曾公亮、苏颂、蔡襄这样的贤臣吗？若说江浙多名臣，不也出了丁谓、王钦若吗？”皇帝认为很对，王淮官拜左丞相。
天长县遭水灾，七十多户人家受害，有人说不必上奏皇帝，王淮说：“前人曾说皇上不可一日不闻水旱盗贼，《论》曰：‘天下欠收，一定要先让皇帝知道。’怎么可以不让皇帝知道呢？”镇江饥饿百姓强行向政府借粮，执政大臣请求严厉惩罚百姓，王淮说：“法令规定，饥民犯罪不至被处死。”八名进士请求用免举恩数晋级，王淮回答说：“八人得到后，则会有百人援引为例。”龚颐以执政门客补官，请求去铨曹任职，王淮认为不可开此先例，予以拒绝。王淮曾说，放荡不羁，不循规矩的人，危急时刻会全力以赴，不惜舍身，于是让周极出任安丰军知军，辛弃疾任祠禄官。
王淮上书皇帝，坚决请求离职，孝宗让王淮以观文殿大学士判衢州。王淮拒不接受任命，改任提举洞霄宫。光宗即位，下诏征求即位之初治国对策。王淮认为应以尽孝进德，奉天敬民，用人立政为本。生母去世，王淮以礼服丧。一天王淮生病，他对家人说：“《易》有六十四卦，我的寿命也是如此。”淳熙十六年(1189)王淮逝世。噩耗传至京师，皇帝十分悲伤，停止临朝视事表示哀悼，赠王淮为少师，谥号“文定”。
当初，朱熹任浙东提举，曾弹劾台州知州唐仲友。王淮一向与唐仲友关系很好，不喜欢朱熹，于是他提拔陈贾为监察御史，指使陈贾上书说：“近来道学假名济伪之弊盛行，请皇帝下诏革除这种恶行。”郑丙任吏部尚书，与陈贾合力攻击道学，朱熹因此改任祠禄官闲居。后来的庆元伪学之禁即源于此。