洪承畴之所以顽固地死守郑州、开封，主要是觉得他面对的官军兵力并不多，只有两万左右，而他自己的洪兵和杂牌部队全加起来超过五万人。如果再加上被他胁迫守城的百姓，则有七八万人之多。为了能把官军拖垮，他决定不惜豁出去死伤一半人，也要尽可能顶下去。而且官军并没有包围郑州、开封二城，都是只从城北发起攻击，实在顶不住了他还可以撤退。
但是，洪承畴不懂什么叫“人民战争”。官军虽然兵力不多，攻打郑州的兵力统共也就一万二三千人，但为官军服务的民伕却达到五六万人之多。这些民伕冒着严寒，忍着饥饿，源源不断地把军需品从遥远的京师运到前线。对于朱由检这种以火器为主的现代战争打法而言，后勤供应甚至比作战本身更重要。如果没有火药、没有炮弹，大炮和鸟铳岂不成了摆设？
现在，这些民伕又毅然投入到构筑工事中去，具体地说就是要在郑州城外面，用土堆出一座高出城墙的山来。此时天寒地冻，取土可不是一件容易的事。民伕们便用火炙烤，烧化冻土层然后取土，其艰辛程度可想而知。
幸亏郑州地处中原地区，冬季冻土层不算太厚，也就是一尺多深。烤化冻土层后，下面都是没冻的土壤，再挖起来就省力了。若是换成辽东地区，这个法子便不成，因为那里的冻土层厚达五尺以上，用人力很难掘透。
取土之后，民伕们便将其装入沙袋，奋力运往瞭望台前，一点一点地向上堆积。等堆到比城墙稍高时，便有步兵手持鸟铳上去，对城内叛军进行射击。
这下叛军终于如梦初醒。如果只是挨炮轰，他们还可以忍受，因为官军为了避免误伤百姓，基本上只轰城墙，叛军死得还不多。但土山上的鸟铳手可是瞄准射击的，鸟铳的有效射程为八十步，而土山距离城墙只有五十步，高度还在不断增加；鸟铳手在上面居高临下，可以非常容易地瞄准叛军开枪。土山刚堆了一丈多长，只上去了十几名鸟铳手，可是不到半顿饭的时间，已经有将近二十名叛军命丧枪口之下！
这回洪承畴可沉不住气了，他立即组织大量弓箭手向瞭望台和土山上射箭，企图把官军压回去。然而他们不敢上城墙放箭，在高度上已经吃了大亏；此时北风劲吹，弓箭的射程又大受影响，绝大多数箭支根本射不到土山山顶就坠落了下去。
而官军这边则是一刻不停，土山越垒越长，两天时间，已经在郑州城外垒成了一条长达数十丈的土岭。上岭的鸟铳手已经达到五百人，叛军可再也顶不住了，只得放弃北城墙，躲进城中的废墟里去。
这时候卢象升觉得该杀进城去了，但他还是向在洛阳的朱由检送去急奏，汇报这三天的战况。原以为皇帝会马上批准发起总攻，孰料朱由检的御批却是：“用炮轰击郑州全城，直到叛军投降或弃城为止。洪逆谓朕投鼠忌器，朕不得不牺牲郑州百姓，让其永绝此念。朝廷如有物议，朕自当之，与卿无干。钦此！”
朱由检做出这个决定当然是万分痛苦的，然而理智告诉他，这又是必须的。纵观人类战争历史，平民的伤亡始终远远大于军人，这是无法改变的客观规律。做为参战一方，首先要做到的是保全自己，然后才能去考虑减少平民的伤亡；如果不能兼顾，就必须做出理智冷静的决断。否则，自己承受了重大伤亡，连能不能打胜都不知道了，哪还有能力去保护百姓？
卢象升只得奉旨行事。第二天，官军所有的大炮全部调整角度，不再轰击城墙，而是对城内进行纵深打击。当然，卢象升还是希望能尽可能地减少误击，他让瞭望台上的士兵主要选择叛军的驻军之地，比如知县衙门、军营等处。
但是洪承畴也很狡猾，大部分叛军早就散居于全城各地，很难与平民分清楚。到最后卢象升也没办法了，只得含泪让炮手专拣人多、建筑密集的地方开炮，只留着东、南两座城门不轰。这时候他是多盼着洪承畴赶紧弃城逃跑，好让百姓少受些罪！
幸好洪承畴也不是钢铁战士。在官军终于对全城发动大规模炮击之后，洪承畴的神经终于崩溃了。尤其是他行辕所在的知县衙门，在第一轮炮击中，就被元戎炮和逍遥炮重点照顾，无一房屋幸存，全被轰成了碎砖烂瓦。若不是他命大，早就找阎王爷报到去了。
洪承畴自从出任延绥巡抚以来，一路靠战功升迁，打过的仗不计其数，然而官军这种战法他是闻所未闻、见所未见；他到现在才明白，自己的各种“谋略”，在怒吼的大炮面前，全都脆弱得不堪一击！到现在他不禁有些后悔，后悔不该“站错队”，不该轻视年轻的皇帝…然而，现在后悔已经晚了！
最后还是洪承畴的爱将高杰把他从瓦砾堆中抢了出来，声泪俱下地恳求道：“太师，郑州不能再守了，还是赶紧撤退吧！”
洪承畴明白，在官军的无差别炮击下，高杰的标营也同样大量死伤，这是他这个流贼出身、视军队如私物的悍将绝对不能接受的。如果没有高杰、刘良佐、李成栋这几员将领，他洪承畴就是孤家寡人，连李自成等流贼也不如。所以他只好咬牙道：“现在也只好如此！不过，为了掩护主力撤退，其他卫所调过来的官军，以及新征入伍的，要在城中坚守到最后一刻！”
在洪承畴与高杰率领主力撤退两天之后，被他们抛弃的叛军终于彻底缴械投降。开封与郑州大同小异，也在同一天被官军收复。此战官军几乎无人伤亡，而叛军伤亡数千、被俘近万，两城百姓冻饿而死与伤亡者合计亦近万！
因此，当看到伏在废墟上哀哀哭泣，并用惊恐的眼光看着自己的郑州百姓时，卢象升终于忍不住热泪滚滚而下，扑通一声跪倒在他们身前，放声痛哭道：“乡亲们，你们受苦了！”