一九四八年八月二十五日，毛泽东致电粟裕、谭震林，指定正在养病的许世友担任济南攻城部队指挥员：
此次攻济是一次严重作战，请考虑在许世友同志身体许可情况下，请他回来担任攻城主要指挥员，王建安（山东兵团副司令员）同志辅之。因王初到东兵团，不如许之熟悉情况，据饶漱石同志说，许休息若干天是可以回部工作的。攻济任务完成，他仍可去休息。如何，请酌办。
济南攻坚注定要付出巨大牺牲。
毛泽东看重的是许世友勇猛的作战作风。
接受任务的许世友认为，济南攻坚必须像杀牛一样杀其要害，对济南守军要采取“牛刀子战术”：集中兵力和火力，东西并举，数把尖刀冲开血路，向守军的心脏凶狠地剜下去。许世友给攻城各部队提出的要求是：不能摆困难，不能找借口，各自解决自己当面的问题，任何时候都不能停止攻击！要不停顿地攻击！攻击攻击再攻击！
吴化文的战场起义，使济南城防西线敞开了一个口子，城内守军正在惊慌失措中调整部署以封堵缺口。在这种情况下，必须连续突击，绝不能给敌人以喘息的时间。九月二十日，粟裕电告许世友、谭震林以及第十纵队司令员宋时轮、政治委员刘培善：“……战局可能迅速发展，望令各部就现态势以三、十及十三纵并力迅速向商埠攻击，得手后则全力攻城。”许世友命令西兵团当晚对济南城西守备区商埠发动攻击，并将总预备队十三纵投入到这个作战方向。
就在许世友即将发动攻击的时候，中央军委致电粟裕、陈士榘、唐亮、张震，提醒他们必须保障济南外围的安全，因为吴化文已经起义，而攻城兵团又即将发起攻击，王耀武很可能向天津或青岛或临沂等处突围逃跑，“华东局应立即布置通往临沂、枣庄、青岛、运河、鲁西南各路之地部队及民兵的节节堵击，是为重要”。并通报说，“刘峙已令邱清泉兵团集结临城待命援济”，“应迅速集结阻援打援兵团，全力于邹（邹县）滕（滕县）地区”，准备歼灭邱清泉的援军。为此，粟裕迅速调动打援兵团在济南外围形成了三道防线，并将叶飞的第一纵队主力放置在济宁与兖州之间适时机动。
没能逃亡出去的王耀武此时的绝望是可以理解的：没有任何外围阵地可以依托，西面防线已经敞开口子，在援军可能来援的各个方向上粟裕的十八万人马正严阵以待，而济南城下许世友的十四万部队已经跃跃欲试，那么还有什么理由要坚守下去呢？王耀武分别给徐州和南京发出电报，再一次提出了向北突围的请求，结果遭到蒋介石的严厉斥责：
俊才弟鉴：吴逆叛变，事出非常，闻之痛心。陈明仁守四平街，知不可守而守之，东北数省赖以保全。济南之于华北，亦犹四平之于东北数省，战略要地，务从固守，各路援军已兼程急进矣。
蒋中正 民国三十七年九月二十日
王耀武看了电报，在“固守”二字旁画了四个圈，在“援军”二字旁画了四个叉。然后他对身边的参谋长罗幸理说：“七点召开旅长以上军事会议，决定死守，团长赵峙山（第二绥靖区特务团团长）也来。”
会议气氛惨淡。罗参谋长首先读了蒋介石、顾祝同、刘峙的几封来电，问大家有什么意见，没人吭声。王耀武发言说：“老先生是英明的，我们要相信他。济南是战略要地，他责令我们固守，杜副司令并已亲自督率邱清泉、李弥、孙元良等三个兵团来援，只要我们能坚守一个星期，援军定可到达。老先生是关怀我们的，我们应当听从老先生的指示，尽力坚守。”
一散会，王耀武下令征召城内壮丁补充部队，将老幼妇孺全部疏散，并且在攻守双方的分界线上设立明显的标志，以利于空军大面积的轰炸。除此之外，他还做了一件特殊的事，这件事显示出他内心极度的不安和矛盾：他打电话给军法处和军事监狱，命令将所有在押犯人全部释放。对于关押的共产党员和俘虏的解放军官兵，军官发给金圆券五元、士兵三元，全部送出城去一个也不许伤害。
王耀武知道共产党军队首先攻击的应该是吴化文让出的阵地。他命令部队占领济南城西商埠的土围子，掩护主力迅速变更部署：守备黄河南岸的特务旅和保安部队，以及守备外围的所有部队全部撤回市区，配置在外城和内城各要点；守备西区的整编第二师二一一旅和保安部队配置在商埠的各要点上；以整编七十四师一七二团的七个连和保安部队一部，固守绥靖区司令部所在的邮电大楼。王耀武心里很清楚，商埠守不了多长时间，因此命令将外城和内城城墙附近的民房拆毁以扫清射界。于是，在共产党军队还没有攻城的时候，济南的外城和内城附近就燃起了大火。
济南外城以西是一片狭长的工业和商业区。如果要接近济南西边的外城，必须首先占领这个区域。这个区域的四周挖有宽九米、深六米的外壕，外壕的里侧是约三米高的围墙，沿着围墙每隔二十米修有一座地堡。而在商埠内，各大建筑物上都设有双层射击阵地，四周用沙袋构成掩体，形成能够独立作战的支撑点。在各主要街巷和路口，还有活动堡垒、地堡、鹿砦和栅门。
九月二十日，皓月之下，炮火骤起，呐喊震天。
攻城部队从西、南、北三面对商埠发动了猛烈攻击。
从北面首先插入商埠的，是十纵二十九师八十五团。副团长刘竹溪率领先头营冲到官扎营前街西口的时候，守军已经溃逃，但守军已将西门用土坯砌成的很厚的土墙封闭，马匹和辎重无法通过。官兵们把重武器从马背上卸下来用人背，继续往里冲。当冲到官扎营东口和天桥以西时，遭到了天桥至火车站一线守军的火力阻截。这时，三营和特务连上来了，三营长刘振溪向刘竹溪报告说，七连的看护员李恩海是济南人，对这一带路很熟悉，可以当向导。刘竹溪与李恩海商定绕过正面守军的路线之后，决定留下二营钳制当面之敌，自己率领三营和特务连绕路前进。
商埠区内到处是枪声和混战的呐喊声，黑夜里穿行在复杂的街巷里如同进了迷宫。三营和特务连迅速绕过天桥，穿过铁路，插到了馆驿街与小纬一路的十字路口。刘竹溪把八连和特务连留下攻击街心的碉堡，其余部队沿馆驿街北侧继续向东前进。大街上到处是守军的街垒和火力点，他们不得不采取从街巷和院落中横穿而过的方式。他们携带着大量的小炸药包，这种小炸药包大的八九斤，小的只有三五斤，既可以炸碉堡，也可以对付坦克。在巷战中，把小炸药包往墙上一贴，爆炸后就形成一个洞，横穿居民区的时候，一连串地炸下去，就可以形成一道由若干个洞口组成的“胡同”。三营穿越馆驿街，经顺河街继续向东，他们看见了济南外城城墙。
来到城墙下的七连即刻遭到城墙守军的火力阻截，官兵们投掷小炸药包和手雷艰难突击后，终于看见了济南外城的普利门——刘竹溪率领的突击队已经插到商埠守军的背后，将商埠与济南外城分割开来。但是，刘竹溪的突击队插到这里，就意味着将东西两面受敌，而他们必须坚守在这里等待后续部队打进来。
天亮了，普利门附近的守军在炮火和坦克的掩护下发动了反击。
反击方和防御方都利用复杂的街巷互相摸索。双方都是小股兵力，火线犬牙交错，根本没有前后方的概念，都是突然相遇，猝不及防，短兵相接，照面就打。每个院落里都发生了遭遇战，刘竹溪突击队中的营指挥员、军医、卫生员、炊事员都变成了战斗员，几乎每个人都需要单独作战。俘虏和伤员无法后送，只能派少量兵力看管照顾，伤员在流血，俘虏想逃跑，七连先后有两名卫生员为此牺牲。看护员李恩海带着三名担架员组成火线救护组，却两次被守军堵在房子里，他们用手榴弹、扁担和担架硬是把冲进来的敌人赶了出去。三营的包扎所设在馆驿街中段北侧的一个有两层楼的院子里，当敌人冲进来的时候，军医刘文昌、许安福率领包扎所的卫生员占据着二楼，用手枪和手榴弹把敌人打了出去。
八连和特务连移交阵地后也摸了上来。他们前进到后影街和馆驿街交叉路口时，发现至少有两个连的守军正向东运动，八连扑上去就打，这股守军在突然而至的打击下仓皇四散。在一个街巷口，一排副排长霍德荣抓住了一名守军士兵，这股守军蜂拥向街巷的另一头跑，谁知那头二班的机枪响了。在巩固阵地的战斗中，八班副班长程兆在一处房顶上设置了一个十分理想的射击点，有效地掩护了后续部队的攻击。但这个射击点随即成为敌人的重点打击目标，炮弹铺天盖地打下来，程兆的机枪始终没有停止射击，直到他和脚下的那间房子同时被炮弹击中，程兆的身躯混合在瓦砾之中轰然倒下。
八十二团攻击到纬十路时，街口突然烈焰腾空，国民党守军把堆积的数千桶汽油点燃了。大火之中，汽油桶接连爆炸，震天动地，热浪灼人。八十二团官兵仅仅顿挫了片刻，立即向火海两侧迂回，守军见状仓皇撤退。在追击的过程中，守军又几次返身发动反击，双方展开了殊死的搏斗，由于后续部队没有及时跟上，八十二团的先头部队弹药已经耗尽。爆破手魏有志在数次负伤之后，抱起一个二十斤重的炸药包迎着守军冲了过去，用自己的生命换来了胜利的转机。
残酷的街巷战中，解放军官兵一次次穿墙作战，冲进了一个又一个市民家中。正值中秋，家家都已准备好了过节的东西，但是战争使市民无奈地弃家逃离。解放军官兵遵守群众纪律，在很累也很饿的情况下，谁也没动那些美味的食品——不知道那个家就在这一带的看护员李恩海是否看见了自己的家门？
位于正西方向的三纵，其攻击分工是：八师二十三团攻击西南卡子门，突破后沿商埠中部的经四路向东发展；九师二十团突击铁路工厂、二十五团突击北卡子门，而后沿商埠北面的经一路和经二路向东发展。在炮火的掩护下，二十三团的突击队员抱着炸药包，冒着守军的反击炮火，越过电网和壕沟，向西南卡子门连续爆破九次，终于将城门炸开一个缺口，后续部队迅速拥入。二十团首先肃清了铁路工厂的外围地堡，连续炸毁四道工事后突进工厂里面。二十五团接收了吴化文部守备的两个工事，然后向西北卡子门实施攻击。至午夜十二时，第三纵队和鲁中南纵队的各突击部队已全线突破商埠防御阵地，开始向济南城中心地带推进。
天亮的时候，当八师攻击到经四路与纬八路交叉路口时，街心的一座坚固街垒横在前进的路上。师长王吉文得知攻击受阻后跑到前沿，路口弹如雨下，王吉文和营团干部开始研究如何摧毁这个堡垒。就在这时候，守军发射的一颗炮弹在附近爆炸，一块弹片嵌进王吉文的左肺。王师长从昏迷中苏醒过来后，发现军医正在给他打针，他说：“不要给我打针了，快去前面抢救负伤的战士，他们治好了还可以参加战斗！”王吉文拒绝上担架，让担架队赶快上前沿去把受伤的战士抬下来。王师长躺在战场硝烟弥漫的路口，直到血流殆尽。
从商埠南面发起攻击的是十三纵，三十七师的一〇九、一一〇团为先头突击部队，分别攻击西卡子门和东卡子门。一〇九团突击顺利，战前一营长田军曾带连排干部仔细观察了攻击路线，因此，二连和三连的爆破组准确地对西卡子门实施了爆破，巨响之后，砖石腾飞，碉堡和各种障碍物顷刻瓦解。当大部队对西卡子门发动冲击的时候，国民党守军的一个火力点复活。一连机枪手抵近射击，掩护二连的爆破手往上冲。傍晚时分，西卡子门守军的火力点被全部肃清，二营沿着大槐树南街攻击前进，三营沿着道德东街向前发展，一个小时后，一〇九团奉命停止前进，开设阵地掩护一一一团向纵深推进。
一一一团向东冲击的时候，遇到了省立医院据点的顽强抵抗。省立医院内的守军，是刚从火车站方向调来的整编第二师二一一旅六三二团，该团到达后立即部署防御，抢修工事，团部指挥部设在医院中心楼楼下的地下室里。西卡子门方向的枪声越来越近，连医院的哨兵都开始受到冷枪的袭扰，感觉不妙的六三二团派出搜索队，搜索队官兵看见了令他们心惊肉跳的情形：在医院的四周，共产党官兵正在穿墙挖洞，他们就要接近攻击医院的位置了。六三二团立即收缩兵力，准备迎战，并规定战斗口令是“王先生”——取王耀武司令官亲自指挥之意。团长王彬基宣布：“战斗开始后，会形成巷战和局部被包围，我们黄埔同学要对得起党国和司令官，我们要决心与阵地共存亡。”话音未落，医院就受到了攻击。这时候，六三二团接到了王耀武令他们出击的命令，副团长带领六连真的出击了。但是，刚冲到纬八路路口，他们突然发现在前面执行掩护任务的坦克挂出了白旗，副团长立刻命令赶快撤退。
三十七师一一一团四连一排绕到东侧，利用民房作为掩护接近医院，官兵们翻墙进入炸毁一座地堡，将省立医院的北门打开，二营乘势冲了进去。这时，医院里已经混乱，所有的窗户都被打碎，到处是“缴枪不杀”的喊声。六三二团团长最后在发报机中说了句“各自好自为之”就再也没了消息，副团长和几个营连军官头上顶着弄湿的毛毡藏在一张大桌子下面，一边躲避弹雨，一边把五六十枚手榴弹捆扎在一起投了出去，趁着巨大爆炸弥漫开的硝烟，这些军官脱掉军装混在难民中逃走。
在东卡子门攻击的一一〇团攻击受阻，三十七师师长高锐命令三营长刘坤和教导员王文从守军的侧翼插进去，然后与二营实施内外夹击。三营从一〇九团撕开的突破口钻进去，迂回到西卡子门守军的侧后，与二营协同发起攻击，东卡子门终于被突破。三营一鼓作气，连续穿越几条街道，午夜时分攻到了汽车站附近，并继续向外城城墙接近。天色微明时，城墙上的守军突然发现城墙下来了一支队伍，于是在炮火的掩护下发动猛烈反击。三营顽强抵抗，致使守军无法弄清楚攻击城墙的到底有多少人。最后，守军抓来了几十名市民，让他们走在反击部队的前面，这一情景让三营官兵十分吃惊。刘坤营长迅速作出决定：部队不得开枪，后撤，前沿只留几名特等射手。三营主力后撤的时候，特等射手们弹无虚发，专门打押解市民的国民党军官兵，射击精确得连市民也不怕了，一些人开始逃跑，一些人干脆转身和押解他们的守军扭打起来。国民党守军开始沿街道两旁放火，三营官兵在火焰中趁势冲上去，一面追击撤退的守军，一面和市民们一起救火。
二十一日，商埠战斗进入白热化阶段。
三纵、鲁中南纵队和十纵已经从不同方向靠近了济南外城最重要的两座城门：普利门和麟祥门。整编第二师拼死防守，双方在普利门正面逐条街巷地争夺。整编第二师副师长唐孟壑命令独立大队全面出击，要求至少把共军压制到纬二路以确保普利门的安全。独立大队的工兵先在顺河街放火，然后步兵趁乱出击，出击之后才发现，共产党官兵已经用穿墙打洞的办法逼近了普利门，连下水道里都布置了监视哨，独立大队的反击部队刚一露头，就遭到了猛烈的火力阻击。黄昏到来时，攻城部队突然向普利门和麟祥门一线猛烈开炮，整编第二师独立大队大队长瞿赓扬看见了他惊骇的景象：
……整个阵地天昏地暗，炮弹空中飞行的奇异声，使人胆战心惊。炮弹爆炸声、伤者的惨叫声、建筑物的倒塌声，合在一起犹如天崩地裂。这样猛轰了一个半钟头，方告停止。圩墙内外，一片火海。这时解放军的指挥枪咯咯咯地在各方响着，响一次就有一次冲杀。其声势之大，攻击之猛烈，为内战中所罕见。“血流成河”这句形容战场的老话，用在当时普利门内外，也是恰当的。那里是血水横流，尸横遍地。青年会在炮击时楼被削平了，工兵营全部被歼，法院大楼也听不见还击的枪声。我命一营三次冲出去，均有去无回。至此我所指挥的部队，已被歼灭得差不多了，仅存二三十人。迎贤门里至南边马路，圩墙内也是死尸满地，道路堵塞，圩墙上的守兵，已稀稀落落，所剩无几了。我乃到普利门里小庙后面梁团二营指挥所同该营营长研究如何抵御，他呆若木鸡，一言不发，最后方说：“我去墙上看看。”他就这样一去不复返了。外边解放军仍是一个劲地进攻，我又顺着圩墙向南跑到三团指挥所同梁为学团长商议怎么办，梁也束手无策。
独立大队的官兵混乱地拥挤在街道边的商店和民房里。
二十二日凌晨五时左右，街道上突然响起“缴枪不杀”、“如果不缴枪，就叫你坐飞机”的喊声。一个国民党军士兵刚把枪伸出窗外，就被飞来的一颗子弹打死。然后，商店和民房的门被共产党官兵打开，一名干部宣布了共产党的俘虏政策之后，整编第二师独立大队的大部分守军放下了武器。
火车站是王耀武重点防御的部位，守军是整编第二师二一一旅和一个铁甲车队。
十纵从商埠北面向火车站开进的时候，沿途受到二一一旅的猛烈阻拦，十纵果断穿插，将二一一旅的六三二团和六三三团割裂开来。二一一旅旅长马培基命令守备大华电影院的六三一团加强营增援六三三团，但增援部队刚推进到邮电大楼以西的时候，就与攻击部队迎面撞上了。在邮电大楼防御的五十八旅一七二团居高临下从窗口和堡垒以猛烈火力封锁马路，暂时迟缓了攻城部队的推进。十纵官兵开始迂回包围六三三团和六三二团的阵地，当六三三团和六三二团无法坚持溃败下来后，战斗延伸到了邮电大楼和火车站。国民党守军将火车站附近的民房全部烧毁，封锁了通往车站的所有通道，并在站内轨道上部署了两列载有数百名铁路警察的装甲列车。列车来回移动射击，给火车站防守部队以火力支持。
十纵采用爆破的方式逐屋推进，并且在建筑物内挖掘地下坑道至通敌人的工事和碉堡下面，然后引爆炸药。二十八师八十五团在陈景三团长和张维滋政委的率领下，穿越铁路对火车站形成东西夹击的态势；八十六团在团长刘天祥和政治委员翁默清的率领下抢夺了天桥，从北面向火车站插入一刀。铁甲列车依旧在来回扫射，攻击部队受到火力压制。十纵司令员宋时轮命令炮兵将其击毁，特种兵纵队炮兵三团用棉被、麻袋把火炮轮子裹起来，将十四门野炮隐蔽推进到距铁甲列车仅两百米处，然后突然以猛烈的轰击摧毁了铁甲列车。随着防御火力的减弱，千余名守军被压缩在车站之内。
二一一旅旅长马培基意识到大势已去，决定突围。他命令六三一团团长刘沛然率残部掩护，自己和参谋长张显源带着特务连等两百多人从火车站大楼内的地下室里钻出来，向车站北面的天桥方向逃去。奔跑中，马培基的腹部被子弹击中，他一头栽倒在地，由于无人救护，终因流血过多死亡。参谋长张显源也负了伤，在混乱中下落不明。这股逃敌除伤亡者外，突出去的七十多人大部分被俘，小部分官兵换上便衣混进了难民中。
二十二日，商埠绝大部分地区已被攻占，只有个别坚固据点还在战斗，其中第二绥靖区司令部所在地邮电大楼是最顽固的据点。
此时王耀武的司令部已经转移到城内，但是邮电大楼里的守军仍在顽强固守。防守邮电大楼的部队，就是空运到济南的整编七十四师一七二团的七个连，由那个希望报答王耀武栽培之恩的刘炳昆团长指挥。刘炳昆到达济南后，王耀武把蒋介石送给自己的“中正”佩剑送给了他，这让他很是激动，当场刺破手指表示：“请司令官记住，我的老家是湖南长沙！”王耀武明白，刘团长准备付出生命。他派刘炳昆固守邮电大楼阵地，并告诉他邮电大楼和附近的工事全都是钢筋水泥修筑的，司令部里还储存有大量的食品、罐头和弹药。刘炳昆到达阵地后，在电话里对参谋长罗幸理说：“万一阵地失守，请给我的妻子打个电报。”王耀武接过电话说：“你这种精神很好！只要有此精神，阵地就一定丢不了，给你妻子的电报也不用打，我立刻把你这种忠勇精神电报给老先生，保你为少将旅长！”
刘炳昆防守的地域，除邮电大楼之外，还包括附近的上海银行、中国旅行社和德国领事馆等数座大楼。
三纵司令员孙继先和政治委员丁秋生心急如焚，因为攻城指挥部的命令是：“务于二十二日午前，完全扫除商埠及城郊之敌。”
邮电大楼位于纬二路，鹤立鸡群般地矗立在一片钢筋水泥建筑物中，四处伸出的大地堡控制着周围的街巷，楼顶上是坚固的火力掩体，配有轻重机枪和三门火炮。附近的每栋楼房也都是可以单独作战的大堡垒，机枪火力点总数在百个以上，步枪射击孔在千个以上。
三纵开始攻击了，楼上倾泻下来的手榴弹、迫击炮弹、六〇炮弹和机枪子弹如同骤雨，孙继先组织起十几门掷弹筒连续发射炸药包，同时又派出数支爆破队不惜伤亡连续爆破，邮电大楼高大的围墙终于被炸开缺口，坚固的楼体也被炸出了几个大窟窿，突击队员从突破口拼死往里冲。排长张峰冲进一楼时，守军从楼梯上扔下炸弹和毒气弹，毒气散过之后，依旧能够站起来的官兵顽强地往二楼爬。
刘炳昆的指挥部设在三楼。此时，他已脱掉军装，只穿一件白色衬衣，腰间挂着那柄“中正”佩剑，胸前是一支美式冲锋枪。他刚刚处决了一名胆怯的排长，面对环绕在他身边的十几名军官，他脸色铁青地说：“养兵有什么用？就是为了在战场上卖命！商埠已经只剩下我们在打，我们要打出个样子给王司令和蒋总统看！”邮电大楼对面的德国领事馆已无法支撑，这对邮电大楼的防御构成了威胁。刘炳昆电话请示王耀武，要求把守备德国领事馆的残余部队撤到邮电大楼来，王耀武担心部队撤过马路的时候会遭受伤亡，两人正在商量时德国领事馆内的守军已经投降了。
邮电大楼在三纵和十纵的持续围攻下，守军伤亡惨重，被打死的人不断地被从楼上抛下来。下午十六时，二十九师把火炮直接推到楼前抵近射击，爆破组连续七次爆破了三十五公斤炸药，邮电大楼开始摇摇欲坠了：
大楼的门窗被炮火打得燃烧起来，烟雾弥漫，火光由门窗喷出，大楼的西半部只剩下钢筋水泥的残破的楼架子。解放军随即冲进大楼的院内，枪声、手榴弹及炸药的爆破声，震得地动楼摇。防守大楼的残部仍想把冲进院内的解放军打出去，曾数度反击，争夺甚烈，官兵伤亡众多，被迫退缩一隅。
攻击部队冲进大楼，在楼梯和各个房间开始最后的清剿。国民党守军利用能够利用的所有东西，包括桌椅、沙发、成袋的面粉、弹药箱等等，搭建起阻击掩体进行最后的抵抗。督战军官们端着机枪在房间里扫射，逼迫士兵到走廊里作战。五连的九名战士冲进一个巨大的房间里，班长赵十顺发现一只铁皮柜子上架着三挺机枪，三名机枪手站在那里已经举起双手。这就是一七二团的指挥部。几十具尸体横陈在地上。在正中央的大桌子后面，椅子上垂头坐着一个人，腹部和头部都已受伤，胸口处插着一柄短剑，血流了一地——最后时刻，刘炳昆用“中正”佩剑自杀了。
二十二日下午，商埠区被攻城部队占领。
王耀武的残余部队全部退守城内。
这时候，杜聿明指挥的增援部队在大雨中出动了。
蒋介石飞临济南城上空。他的这一举动令幕僚们很是担心，他们曾经劝阻他不要去，说让空军司令代替一下就可以了，但蒋介石坚持要去。座机在济南城上空盘旋几圈之后，蒋介石与王耀武通了电话。蒋介石用尽可能温和的声调问：“俊才，你在哪里啊？”王耀武仰望天空回答：“我在城内指挥作战。”蒋介石说：“你已经挫败共军的数次进攻，证明你的十万将士都是党国的忠勇之士，全国军民都希望你再次创建天下奇功。”王耀武说：“学生明白。”
济南老城分内外两城，内城套在外城里，无论内城还是外城都有高大坚固的城墙。外城自北向西向南向东排列的城门是：小北门、永镇门、普利门、麟祥门、永绥门、新建门、中山门、永固门、永靖门和垦吉门。
王耀武认为，攻击商埠区的作战已使共军遭受严重伤亡，至少需要三至四天的准备和恢复才可能攻击外城。于是，他将主力部队十五旅、十九旅和五十七旅集中于内城，将七十七旅、二三一旅和绥靖区特务旅以及保安六旅部署在外城进行防御。
华东野战军攻城部队确实极度疲劳，减员来不及补充，伤员还没有全被抬下去，弹药和其他攻城作战器材也消耗严重，按照一般的作战规律，虽然不至于如同王耀武估计的那样需要休整多日，但两天还是需要的。
许世友命令：持续攻击！即刻攻击！决不给王耀武喘息的时间！
二十二日黄昏，对济南老城的攻击不顾一切地开始了。
外城是济南城防的第二道防线，城墙由大石块和大方砖砌成，墙高八米、厚十米，城门楼是火力支撑点，城墙顶部设有母堡和子堡，城墙中部设有三层火力发射点，城墙外的外壕宽八米、深四米，内外设有铁丝网。
二十二日十八时三十分，攻城部队东西兵团的炮兵一齐开火，炮火准备长达一个小时。炮声一响，国民党守军立即开火，轻重机枪、毒气弹和火焰喷射器全部向城墙外倾泻，外城城墙下一片火海，毒气夹杂着浓烟翻卷升腾，令人窒息。
十三纵负责攻击西南方向的永绥门，三个团齐头并进：三十七师一〇九团攻击城门正面，一一一团攻击北侧，三十八师一一二团攻击南侧。一〇九团五连爆破组在炮火的掩护下，很快在外壕爆破成功，并把外城城墙炸开了一个两米宽的缺口。在团长田世兴的命令下，登城突击队开始冲击。二营四连五班长赵守令率领的战斗小组率先登城，将红旗插到了永绥门上。守军的炮火集中在这个狭窄的突破口上，步兵也开始了反击，先头登城的二营与后续部队被割断，跟随四连突破的营教导员姚江在反复争夺突破口的战斗中阵亡。二营营长宫本江督促后续部队全力突破，六连冒着猛烈的炮火实施登城，与四连一起巩固和扩大了突破口，一营和三营的官兵蜂拥进入外城。
十纵的任务是突破永镇门和小北门，主攻部队是二十九师。师长萧锋和政治委员李曼村最后确定：八十五团攻击永镇门，八十六团攻击小北门，八十七团和八十九团为第二梯队。永镇门是济南外城最坚固的城门，城高壕深，城楼工事密集，火力强劲。就在八十五团发动攻击的前一刻，国民党守军突然向这里进行了炮火反准备，伴随着数十架火焰喷射器一起发射，永镇门外顿时烈火熊熊，已经到达突击前沿的二营官兵伤亡惨重，所有的攻城器材都被烧毁。更严重的是，团属炮兵暂时无法接近射击，只能依靠步兵的炸药包强行爆破。二营教导员于耿光指挥爆破组在烈焰中强行爆破：第一爆破组组长赵同起带领两名爆破员首先将城门外的鹿砦炸飞；接着第二、第三爆破组先后炸毁了暗堡和地堡；第四爆破组不顾一切地直扑城墙，一声巨响之后，城墙炸塌了一角。由于城墙太厚无法洞穿，爆破组只有前仆后继地往上送炸药，在倒下了数名战士之后，终于把二十一包重三百七十多斤的炸药堆在了城墙下。爆破队副队长苟德光冲上去点燃炸药，三丈高的城门楼倒塌。三排长李振恒冲在最前面，并首先登城。刚上去就有五名守军士兵扑了上来，他打倒一个，其余的退守到地堡中，李振恒腿部中弹，他爬到地堡前将点燃的炸药包塞进去，巨大的爆炸将他抛出很远，他的耳朵被震聋了。三排官兵在城墙上抗击着守军的反击，牢牢掌握着突破口，让后续部队向外城里猛插。进入外城之后，巷战局面混乱，夜晚无法准确辨别地标，发生的几乎都是遭遇战。特务团团长蔡振华牺牲，八十五团副团长刘竹溪负伤，八十六团二营长曹振国牺牲，牺牲的还有石长才和魏和两位营长。
聂凤智的九纵和袁也烈的渤海纵队在城东主攻永固门。此时，永固门外还有历城和千佛山两个据点没打下来。聂凤智提出：绕过这两个据点直接攻击外城，而这两个据点的守军断然不敢出击，更不敢贸然开炮，因为开炮可能会误伤他们自己的部队。聂凤智还把上级要求他们“助攻”的命令，传达时擅自改成了“主攻”，有干部说这样擅改命令不好，聂凤智说：“先攻进济南有什么不好？东面打好了，西面才能顺利！”于是，九纵对永固门的攻击一开始就显出了不惜一切的狠劲。聂凤智有一张王牌，就是在鲁南战役中缴获的四辆十五吨重的美式轻型坦克，坦克上配备有火力强劲的三十五毫米平射炮，而王耀武守备济南的坦克全部是陈旧落后的日式坦克。坦克开路，这在共产党军队以往的作战中极其罕见。当九纵的坦克向国民党守军冲过去的时候，守军官兵个个目瞪口呆，他们不知道共产党军队有了坦克，而且还是美式的，于是大喊：“别误会！我们是保六旅的！”见坦克不理会他们，纷纷掉头就跑。在坦克的助战下，九纵肃清了永固门的外围，然后用坦克上的平射炮把城门轰开，七十三团突击队员蜂拥而入。永固门城门太窄，坦克无法进去，步兵就用各种办法把城门凿大了，官兵们实在是太喜欢坦克了。
战后，山东兵团在战斗总结中特意把坦克夸奖了一番：“攻击永固门的战斗中，坦克共消耗炮弹约七百发，机弹一千八百发，我七十三团步兵未经爆破，即直接架梯顺利完成登城任务，极少伤亡……（坦克）火力命中精确，很短时间内即完成任务，颇得好评。”山东兵团政治委员谭震林在战后致毛泽东的电报中也特别提到了坦克：“我军坦克队已参战，战术上采用游击战，突然出现，达到了掩护步兵前进、压坍敌人地堡之作用。连续作战两次，仅一个驾驶员因胆大，开窗展望，手负轻伤外，余无损失。”
弹片横飞的激战之时，那位年轻的坦克驾驶员要“展望”什么？
二十三日，济南外城已被全部攻占。
上午九时，徐州“剿总”总司令刘峙和空军副总司令王叔铭飞临济南上空，用无线电话联络到王耀武，刘峙说：“你们的困难我知道。援军进展很快，几天就可以到济南。你们必须坚守待援。需要什么，可以空投。”王叔铭接着说：“总统很关怀你们，叫我们竭力援助你们作战。盼你们坚守待援。”王耀武已经不再指望援军尽快到达，他对王叔铭说，共军的各级指挥部和大量后续部队均集结在济南四周，空军要炸尽管炸好了。
王耀武的守军退守内城。
许世友的攻城部队已经精疲力尽。
从一个一个歼灭外围所有的据点开始，到一个一个突破外城所有的工事和堡垒，华东野战军攻城部队的官兵已是伤痕累累，血迹斑斑，当他们穿过在炮火中成为一片废墟的城市，穿过布满交战双方战死者尸体的街道，从不同的方向推进到济南内城的时候，顿时表情严峻：与外城一样高大的城墙和城门森严地矗立在他们的面前。