杨存中本名沂中，字正甫，绍兴年间高宗赐名存中，代州崞县人。祖父杨宗闵，曾任永兴军路总管，与唐重一同守卫永兴，金军攻陷城池，迎敌战死。父亲杨震，曾知麟州建宁寨，金军来攻，也死于难。
杨存中身材魁梧，性情沉鸷，少时机敏，背书数百言，力气超人。慨然对人说“：大丈夫应当用武功博取富贵，怎能俯首贴耳成为腐儒呢！”于是学习孙武、吴起兵法，善于骑射。宣和末年，山东、河北地区群盗四起，杨存中应募从军击贼，积功至忠翊郎。
靖康元年(1126)，金军再次围攻汴京，各道军队勤王，杨存中与张俊、田师中随从信德府守将梁扬祖率万兵入援，后来成为张俊部属。皇上向张俊询问将领，张俊以杨存中答对。皇上召见杨存中，赐给袍带。当时元帅府正值草创之时，杨存中昼夜护卫皇上寝帐，没有片刻离开旁边。皇上知道他忠诚谨慎，亲近信任他。一股势力强大的盗贼李昱占据任城，官军久攻不下，杨存中率领数名骑兵冲入贼阵，击杀数百人。高宗登高望见，杨存中甲胄全部变成红色，以为他受了重伤。召他前来观看，原来都是贼血污染，激励他，赐他饮酒，说：“饮此血酒。”杨存中请求再往，高宗阻止他。杨存中说“：这些盗贼已经破胆，就要被擒拿了。”于是大破盗贼，收复任城，迁任..门祗候。
建炎二年(1128)，杨存中在嘉兴征讨贼寇徐明，率先登上城墙。主将准备屠城，杨存中极力劝阻他，杀掉罪魁祸首而已，嘉兴赖以保全。迁任荣州刺史。高宗渡过长江，杨存中率胜捷军随从张俊守卫吴门；苗、刘叛变时，又随从张俊前往解救危难。迁贵州团练使，不久任御前右军统领。金军攻明州，又随从张俊与田师中、赵密一起殊死搏斗，击败金军。因立下大功迁任文州防御使、御前中军统制。
绍兴元年(1131)，随从张俊讨伐李成。从将计议，大多主张分道前进，杨存中说“：敌势如此，分兵力量就会削弱，加上诸将职位相同，没有招讨使督促，必然不能互相协同。”张俊采纳了他的意见。整军到豫章，杨存中率兵数千人，首先在玉隆观击败敌众，追到筠州。敌人骁将率众十万前来支援，夹河而阵。杨存中对张俊说：“敌众我寡，攻击敌人应使用奇兵，愿意率骑隶属，公以步兵居前。”张俊听从了他的意见。杨存中夜里衔枚渡筠河，出西山，急驰而下攻击敌人，张俊以步兵夹攻，俘敌八千人。众将夜见杨存中说“：战斗没有停止，降卒太多，突然发生叛乱，怎么办？非将他们全部歼灭不可。”杨存中说“：我不忍杀死投降的敌人。”众将转告张俊，竟然在夜晚全部坑杀俘虏。乘胜追到九江，李成于是逃走。迁任宣州观察使。
绍兴二年(1132)春，杨存中进任神武中军统制，宰相吕颐浩从袖中拿出敕令交给杨存中。张俊奏请将杨存中留在军中，高宗说：“宿卫部队缺乏将帅，我所挑选的，不能改变。”杨存中也坚决推辞，并且说“：神武诸将如韩世忠、张俊，皆贵拥旄钺，名望至重，像我这样微不足道的人，一旦地位与他们相抗衡，实在难以自安。”高宗不答应，派宦官宣押，杨存中才就职视事。兼提举宿卫亲兵。当时中军士卒不满五千人，疲弱老病的占一半。杨存中请求将神武士卒借调到其他部队的拨回军中，从此军政渐渐得到治理。
绍兴三年(1133)，严州妖贼缪罗占据白马源，杀死官员，杨存中率兵讨平。除带御器械，加保信军承宣使，权发遣..延路马步军副总管。
绍兴六年(1136)，任龙神卫四厢都指挥使、密州观察使。原先，张浚视察军队，谋画渡过淮河攻打刘豫，倚靠韩世忠部实行。韩世忠包围淮阳，通过张浚请求张俊部将赵密出兵协助，张俊拒绝了他的要求。赵鼎对张浚说“：韩世忠所要求的是赵密，杨存中的武勇，不差于赵密，何不令杨存中协助他。”张浚向朝廷请示，因此才有这一命令。于是杨存中率领八队一万人，奔赴督府协助韩世忠。
十月，杨存中在藕塘同刘猊展开激战，大败刘猊。刘猊当初南侵之时，淮西宣抚使刘光世打算放弃庐州，退保太平。敌众十万已到达濠、寿州之间，张浚命令张俊抵御，派杨存中前往泗州同张俊会合。等到了泗州，刘光世已经放弃庐州而去。张浚派人劝告他说“：一人渡江南下，便立即斩首示众。”刘光世迫不得已返回庐州驻兵，与杨存中相互应援。敌人先进犯定远县，杨存中率兵二千在赵家坊袭击打败敌人。不久与刘猊兵在藕塘相遇，敌军据山列阵，矢如雨下。杨存中急忙出击，并派统制吴锡率劲骑五千突入敌阵。敌阵混乱，杨存中鼓动大军乘胜出击，自率精兵冲击敌军中部，高声呼叫“：击破敌人了！”敌众惊慌失措目瞪口呆。前军统制张宗颜从泗州赶来，从敌背后出击，敌人大败。刘猊将头撞击谋士李愕说“：刚才看见一位长满胡子的将军，锐不可当，果然是杨存中。”急忙率数骑逃走。余众万人僵立失措，杨存中跃马呵斥他们，都恐怖而降。当时刘麟在顺昌，孔彦舟刚围攻光州，听说这一消息后都拔营逃走，北方大震。此战宋军共缴获舟船数百艘，车数千辆。
捷报传来，高宗派宦官赐赏慰问，对宰相说：“你们现在才知道我所任得人吧。”任命杨存中为保成军节度使、殿前都虞候，不久兼领马步帅。杨存中上奏：“祖宗时设置三衙，鼎立相制，现在我一人独揽，不符合旧例。”高宗没有答应。绍兴七年(1137)，任淮南西路制置使，准备让他抚定郦琼各军，后来没有成行，这些事记载在《王德传》中。绍兴九年(1139)，迁任殿前副都指挥使。
绍兴十年(1140)，金朝背叛盟约攻取河南，朝廷命令杨存中任淮北宣抚副使，率兵到宿州，以步兵退屯于泗州。金人派人送假情报说敌骑数百屯于柳子镇。杨存中打算前往攻击，有人认为不可，杨存中不听。留王滋、萧保率一千骑兵守卫宿州，自率五百骑夜袭柳子镇，黎明时，没有见到敌人而回。金军以精兵埋伏在杨存中归路上，杨存中知道这一情况，于是横冲溃散。参议官曹勋不知道杨存中死活，上报朝廷，朝廷震恐，于是下令暂且退保泗州。不久杨存中从寿春渡过淮河回到泗州，人心才安定下来。冬天，率兵返回行在。
绍兴十一年(1141)，兀..耻于顺昌之败，又谋南侵。朝廷诏令各地大军集结于淮西以等待敌人。于是杨存中率领殿前司兵三万人戍守淮河，同金军在柘皋展开激战，击败金军。当时张俊任宣抚使，杨存中任副使，刘钅奇任判官，王德任都统制，田师中、张子盖任统制官。金军以拐子马在两翼掩护前进，杨存中说：“敌军依仗弓矢，我有办法对付它。”让万人手持长斧，如城墙而进，各军鼓噪奋击，金军大败，退屯紫金山，此战，损失将士九百人，金军死伤数以万计，而濠州之围依然未解。
张俊同刘钅奇、杨存中先计议班师。恰逢有人告知前往濠州的道路已经畅通，张俊对刘钅奇说：“我打算与杨存中驻兵淮上，安抚濠梁地区民众，取宣化后回到金陵，杨存中则渡过瓜洲返回临安。”第二天，张俊命令两人行动。间谍报告金军急攻濠州，张俊仓忙退回，邀刘钅奇在黄连埠会合，距离濠州六十里，听说濠州城已经失陷，召见杨存中、刘钅奇商议。刘钅奇对杨存中说：“对此应怎么办？”杨存中说“：不过一战，你和张太尉在后，我应居前攻敌。”刘钅奇说：“本来是救援濠州，濠州既已失陷，进无所依，士兵盼望回去，士气已经低落，同敌交战是危险之道。不如退兵占据险要之处，等敌军离去，再商计对策。”众将都说“：好。”于是三人鼎足立营，派人侦察敌情，报告说“：敌军已经离去了。”张俊为了自己独立战功，叫刘钅奇不要前去，而命令杨存中与王德到达濠州。阵势排列未定，城中烟火升起，金军埋伏的骑兵一万多人分两翼而出。杨存中回首对王德说“：怎么办？”王德回答“：我是小将，怎么敢参预表达意见？”杨存中用鞭指挥军队说“：那么回去。”各军以为命令他们逃走，于是散乱南逃，再无行列纪律，金军在后追杀很多。过了一天，韩世忠率领大军来到，但已经来不及了。杨存中于是从宣化渡江回到行在。加检校少保、开府仪同三司兼领殿前都指挥使，大概是奖赏柘皋战胜之功劳而免去濠梁战败的过错。
绍兴十二年(1142)，徽宗棺椁下葬永固陵，命令杨存中都护。事毕后，拜少傅，以保傅任管军队从杨存中开始。绍兴十四年(1144)，杨存中请求到太学拜谒先圣，高宗说：“学校既兴，武将也知崇尚，如汉朝羽林士都精通《孝经》，更何况其他呢？”绍兴二十年(1150)，杨存中被封为恭国公。二十八年，拜为少师，地位视同枢密使。杨存中由于凡是军事重地都有统制官，唯独荆、襄地区没有，请示朝廷，于是才在荆南、襄阳设诸统制。杨存中在殿中共二十五年，权力恩宠日盛，太常寺主簿李浩、敕令所删定官陆游、司封员外郎王十朋、殿中侍御史陈俊卿相继谏言。绍兴三十一年(1161)，杨存中被罢为太傅、醴泉观使，进封同安郡王，赐玉带，朔望时入朝。
当时金主完颜亮有南侵的意图，杨存中进呈备敌十策。步军司统帅赵密密谋夺取杨存中兵权，因此指责杨存中是喜功生事。杨存中听说后，上奏请求免职，赵密最终取代了他。不久，边防风声日益紧急，九月，诏令杨存中任御营宿卫使。刘汜在瓜洲战败，朝廷命令杨存中前往京口，作为守江计。虞允文从采石来同他会合，杨存中同他齐心协力抗拒敌人，金军没能渡江。金主完颜亮死后，杨存中同虞允文乘轻舟渡江观察敌情。当金人请求和解时，杨存中上奏等到彼得新主之命，不要急忙答应。
皇上到建康，诏令杨存中护卫，并对宰相说“：杨存中唯命是从，忠贞不二，是我的郭子仪。”金朝使节又来请和，杨存中请求在江口把他拘留，移书审问，如能归还我的民众，交归旧土，减少岁币，恢复原白沟疆界，双方结为兄弟之好，像这样才能同金和议；否则，请求斩杀使者，急图恢复。恰逢皇上回驾，任命杨存中为江、淮、荆、襄路宣抚使，但给事中、中书舍人不书黄签押，这一任命于是作罢。不久，杨存中依旧奉祠。
隆兴元年(1163)，官军在符离溃败，朝廷又任命杨存中为御营使。隆兴二年，金军再次入关，朝议割让四川的和尚原给敌人。杨存中入对，说：“和尚原，是陇右藩篱要害之地。敌人得到它，就可以睥睨汉川；我们得到它，就能够下兵秦雍。以前议论给予金朝，吴瞞力争不从。现在吴瞞在远方，来不及知道。我如不说，不仅有负陛下，也有愧于吴瞞。近来，王师尽出精锐而后才得到这块地方，希望不要放弃。”
不久，金军又攻淮甸，诏令杨存中同都督江、淮事。汤思退被罢免后，升任都督，杨存中入宫辞谢，皇上赐座，并赐给玉鞍勒。当时诸军各自守卫自己辖区，不能互相协同，杨存中召集诸将进行协调，于是才互相应援。皇上亲自写信赐他说“：诸将协同和睦，互相策应，是你的功劳。”恰逢金军已深入南下，朝廷计议准备舍弃淮河保卫长江，杨存中坚持不可，才作罢。金军在扬州，有人劝杨存中派兵攻打。杨存中不敢渡江，只是临江固垒以防敌军。
金军不久请求恢复和好。乾道元年(1165)班师，朝廷加杨存中昭庆军节度使，再次奉祠。当时兴起屯田，杨存中将自己在楚州的私田三万九千亩献出。乾道二年，去世，时年六十五岁。以太师身份退休，被追封为和王，谥号“武恭”。高宗追念以前的臣僚，为他流泪，赠钱十万。高宗依靠诸将，对杨存中眷顾尤其深厚，曾经说：“我对杨存中，抚绥胜过对我的子弟。”濠、庐之战，亲笔告诫他说：“如不前进，当以军法论处。”赵密代替他统帅殿前司，就例举唐朝崔佑甫夺取王驾鹤兵权事，预戒大臣。等到事毕后，又说“：杨存中被罢免，我三天夜晚睡不安寝。”
杨存中天资忠孝勇敢，历经大小二百余战，身受创伤五十余处。宿卫皇帝出入四十年，过错最少。孝宗因为他是高宗旧臣，对他尤其礼遇，常常称呼郡王而不直呼他的名字。父亲、祖父和母亲都死于国难，杨存中显贵之后，请示朝廷，杨宗闵谥号忠介，杨震谥号忠毅，分别赐庙叫显忠，叫报忠。又请求家庙、祭器，于是被允许祭祀五代，这是以前所没有的。祖母刘氏流落川、陇，杨存中日夜祈祷寻访，间关阻隔数千里，终于迎接回来。统驭军队宽而有纪，选用人才专以才能勇敢为标准，不私用部曲故旧。李显忠曾因罪过被贬斥，杨存中奏请任他为统制官，后来终于成为名将。曾经因为克敌弓虽强劲但难以蹶张，于是创制马皇弩，制工精巧，易发射远，人人佩服其精妙。曾经在凤山营造居处，十年而成，极尽山川之优美，后来献给朝廷，另外修建居室。又在湖山之间修葺亭园，高宗为他题写“水月”两字。所居之地建阁收藏皇上御书，孝宗为他题写叫“风云庆会之阁”。