但在攻击中，进一步查明了敌之工事构筑及明暗火力配系。各部队总结经验，又重整旗鼓，加速进行强攻准备。
但是关盛所部不能不集中全力面对眼前的现实。11旅32团叫人找来工兵连连长聂小军：“小军！把你的迫击炮扛到前沿来，把大量的炸药也扛去，炸他们的碉堡，轰他们的城门，这回要靠你们工兵连显神威了！”
他又请旅神飞炮大队把火炮从乱石泥泞废墟中推到前沿，冲着城门工事打平射，有多少炮弹都甩出去，一定要压住敌人的火力。
第二天，这次进攻中，我军首先消灭了南门外西侧楼房中的守敌，然后就用神飞炮、迫击炮齐轰城门楼和城墙。
第三天，11旅旅的炮兵英雄们挖通墙壁，把神飞炮直推到最前边的房内，对敌进行抵近射击；冲锋枪连的战士们本来准备把冲锋枪架在一座花坛上，但是为保护遭敌蹂礴后残存下来的几株牡丹花，他们离开花坛，把冲锋枪从一个墙洞里伸出去进行射击。
第四天，冲锋号吹响了，以爆破英雄田富贵为组长的三人爆破组，跃出隐蔽地，正要经过那个栽植牡丹花的花坛时，一颗子弹击中了炸药包上的雷管引起爆炸，田富贵和章鑫壮烈牺牲。
田富贵和章鑫英勇献身的精神极大地鼓舞了全体官兵，随即第二个爆破组又跃出了隐蔽地，踏着英雄的血迹直扑城门。
这个爆破组在排长方得来率领下，把100多公斤炸药顺利地送入城门洞，震天动地的一声巨响，炸开了城门。
在这同时，和32团一同担负攻击南门任务的37团，也派出1个营从东门突破口突入城内，攻克城东南角守敌的一个据点，有力地配合了南门攻城战斗。我攻城突击队在1营营长魏德明率领下，终于在12日12时30分胜利突入南门。
南门守敌大部被歼，残敌狼狈向城西南角逃跑。我攻城突击队1营跟踪向城西南角突击，其他部队向北发展。敌在城西南角筑有坚固设防的集团工事，营长一声令下，六0炮、八二迫击炮向敌齐射，突击队随即冲入敌阵。
3连11班班长许伟忠带领全班推倒了一堵隐蔽墙跃入敌外缭，一排手榴弹打得敌人晕头转向。
8班长胡振刚和全班战士一起猛冲上去，他们顺城边小道直冲到敌主阵地跟前，把手榴弹一个个塞进碉堡，敌人被炸得乱喊乱叫，乖乖地缴枪投降。我后续部队也相继冲来，西南角敌阵地被我占领。
在城内激烈争夺的巷战中，我32团俘获了敌26军少将副师长兼1旅旅长赵斐和3团团长蔡得很。
3月11日17时，在强大火力掩护下，各攻城部队采取连续爆破的方式，以东、西两路为重点对洛阳城垣发起总攻。
第3师第23团主攻东门。为攻克敌坚固工事、复杂障碍，该团专门组建了1个由3个突击连组成的突击营。该营采取逐层突破、稳步推进、边突破边巩固、突破巩固相结合的战术战法，先后完成破障、突破第一道城门并控制瓮城、突破和控制第二道城门的任务。
战至12日零时30分，成功突破东门，团主力紧随其后，迅速穿过敌封锁线投入城内战斗。
此时，北门和东北门尚未攻破。第3师指挥员当即决定：除第20团继续在北门进攻钳制敌军外，师主力迅速由东门入城作战。
第3师入城后，一面兵分三路快速向西门、南门、北门发动进攻，内外夹击，积极策应城外部队破门入城；一面对城内守军实施分割包围。
战至12日14时，南门、西门相继被我军攻破，各路大军在城中顺利会师后向纵深突破，守军大部被歼灭，4000余名残敌龟缩至位于城西北角广场的核心阵地，妄图死守待援。
这时候，?于栗磾已急如火烧眉毛，满眼血丝，满脸汗流如浆。他站在高楼观察所用望远镜四处观察，只见大汉军东追西逐，川流如梭。
他手下的败兵在斥候督战队的威逼屠杀下，一面阻滞我军向核心阵地发展，一面死里逃生，钻头觅缝地躲过督战队向核心阵地逃命退缩。在他们的身背后满街遍布守军尸体，?于栗磾难以想象这一仗怎么会打成这种惨状？
早在东门被突破之时，他从靠椅上惊跳而起，急忙使出杀手锏，以密集炮火在东门组成一道道火墙，将已突入的我军小部队与后续部队一斩两段。又马上叫第二旅旅长孙长肥，令其率城内守军快速打掉冲进来的关盛麾下的小部队。
为此，他既以重金收买，又增派督战队从守军屁股后面威逼其只准往前冲，而绝不准往后退。这在一段时间颇见成效。加以突然大雨倾盆，大汉军的大部队运动迟滞，完全被他的炮火封锁住了。
?于栗磾不罢休，又连声赶急呼叫：“炮兵！炮兵！给我不停地火力封锁！”然后将满满一杯白兰地倒进肚子里，一时虎威猛增，
不由得想起在在黄河岸上构筑堡垒防备刘裕。在刘裕攻打姚泓时，于栗磾预见到其可能向北骚扰，因此决定在河上筑起堡垒，亲自镇守。他布防严密，斥候难以通行。
刘裕对于栗磾的严密防备感到畏惧，不敢轻举妄动。为了劝说于栗磾让路，刘裕致信于他，引述孙权讨伐关羽的故事，请求借道西行。信中提到了“黑矛公麾下”的字样。
于栗磾将此事上表朝廷，北朝魏太宗明元皇帝拓跋嗣同意了他的请求，并授予他黑矛将军的职位。据说，于栗磾常常手持黑矛以彰显自己的身份，刘裕远远望见，对此表示赞赏，因此有了这样的称号。