下午二时，覃斌将预备队五七二旅二团投入战斗。生力军的加入打破了僵局。二团沿广西路直插日军司令部所在地——原德国总督府。
守卫司令部的日军约有三百人，由大岛四郎亲自指挥。他们在总督府周围构筑了环形工事，将这座花岗岩建筑变成了一座堡垒。
“炮兵营，给我把司令部外围工事敲掉！”覃斌通过无线电下令。
六门一百五十毫米榴弹炮开始对总督府进行精确炮击。第一发炮弹落在院墙外，炸飞了一座沙袋掩体。修正弹道后，第二发直接命中主楼二楼，花岗岩墙壁被炸开一个豁口。第三发、第四发……炮弹如凿子般一点点剥去这座堡垒的硬壳。
炮击停止后，二团发起总攻。
日军从豁口、窗户、屋顶向下射击，手榴弹如雨点般落下。进攻部队被压制在总督府前的开阔地上，伤亡急剧增加。
“火箭筒！”三营营长赵大勇抢过一具火箭筒，冒着弹雨冲到距离总督府五十米处，单膝跪地，瞄准二楼窗口扣动扳机。火箭弹拖着尾焰钻入窗户，爆炸将半个房间掀飞。
趁着日军火力减弱的瞬间，士兵们一拥而上，冲入总督府。
楼内的战斗比街道上更加血腥。走廊太窄，子弹打完就是刺刀见红。楼梯上堆满了尸体，鲜血顺着台阶往下淌。喊杀声、枪声、爆炸声在花岗岩墙壁间回荡，震耳欲聋。
大岛四郎坐在三楼办公室里，面前放着一把南部手枪和一张妻儿的照片。外面的枪声越来越近，夹杂着中国士兵的呼喊和日军的惨叫。
门被一脚踹开，三个身影冲了进来。
大岛四郎抓起手枪，却被一梭子弹打穿了胸膛。他倒在桌上，鲜血浸透了那张照片。
下午四时，战斗结束，所有日军被肃清。
覃斌命令通讯参谋草拟电报:“山东兵团指挥组，我部于十六时攻占日军青岛特别根据地队司令部，击毙司令官大岛四郎少将及海军陆战队两千余人，俘虏无。青岛光复。另，巷战激烈，日军抵抗顽强，无一投降。我部伤亡正在统计中，预计不下千人。”
山东兵团指挥组的回电很快到达:命令先遣纵队以青岛为中心，肃清周边流窜日伪军及土匪强盗。同时命令第五集团军、第一集团军、第二集团军及各警备团，全力肃清山东境内所有反动势力。
接到命令后，覃斌将部队分成数个战斗群，以青岛为圆心向外清剿。那些失去指挥的日伪军散兵游勇，在正规军面前不堪一击。少数躲进山里
…。。