由周恩来主持召开的会议开始研究攻打赣州的问题。周恩来是于去年年底宁都起义胜利的第二天动身，由上海奔赴中央苏区的。动身前，中共临时中央负责人博古（秦邦宪）即向他交待了红一方面军要攻打赣州的任务。在此次会议上，毛泽东认为赣州古城三面环水，易守难攻，而以当时红军的攻坚能力，技术装备等，是不适宜出击的。朱德也认为目前的形势仍是敌强我弱，和毛泽东观点一致。周恩来在听了众人的意见之后，感到此时攻打赣州时机尚不成熟，遂致电上海的博古。可是这位坐镇上海的临时中央负责人既不懂军事，又不了解实际情况，却仍然一味坚持。中共苏区中央局只得重新坐下来讨论打不打赣州的问题。
会议上毛泽东再次提出，赣州是敌人必守的坚城，以红军现有的技术和装备，很可能会久攻不克，陷入十分被动的境地。他认为，既使要打，也只能采取围城打援的战术。总而言之，硬打肯定要吃亏。可惜这一意见在最后的表决时，因中央局和中革军委多数领导的不赞成而被否决了。
1月10日，中革军委发布了《攻打赣州的军事训令》，任命红三军团军团长彭德怀为前敌总指挥。以红三军团和红四军为主作战军，赣南、赣东、河西、永、吉、太、万游击队和江西省军区预备队为支作战军。支作战军由陈毅负责指挥。该训令还指示红五军团仍在现地整顿训练，不参加此次作战。中旬，彭德怀率领三军团和红四军分别由会昌、石城等地向赣州方向开进。
江西赣州历来就是赣南政治、经济中心和军事要地，该城三面临水，城墙坚固，易守难攻，素有“铁赣州”之称。时驻守该城的是国民党第十二师三十四旅及赣南十七县地主武装共八千余人，其北面有吉安、峡江、万安的蒋介石嫡系部队五个师，南面有大余、南雄、韶关的粤军十多个团，这些部队都可在战役打响后迅速增援赣州。
二月四日，红军陆续进抵赣州城附近，面对强大的攻势，国民党军立即收缩防线，入城据守。彭德怀率主作战军占领城郊的白云山一线，从城东南逼近城濠。红军围城以后，曾分别于二月十三日、十七日，两次爆破攻城，均未成功。二十三日，红军发起总攻，炸塌了城东南的一段城墙，红七军一部攻入城内，占领了城楼。守军立即组织反扑，用猛烈的火力压制我军后续部队，并对我突入城内的部队发起围攻，经数小时激战，主攻部队受挫，不得不撤出战斗。与此同时，为解赣州之围，国民党军第十一师、十四师共十二个团两万余人，于二月二十九日，突破我湘赣独立一师的阻击，全部兵临赣州城下，与赣州守敌隔江相望。
敌两万援军的到来，基本宣告了我军攻打赣州的企图全面失败。而此时的苏区中央局却没有撤兵的打算，相反还发出了“坚决夺取赣州，乘胜消灭来援之敌。”的作战训令，并调整部署，调红五军团参战。次日，中革军委致电红五军团，该电指示红五军团即刻开赴前线，协同攻打赣州。红五军团参加这次作战，也与毛泽东的强烈建议是分不开的。原来，三军团在赣州城下久攻不克，且伤亡惨重，到了进退两难的境地。毛泽东在得知这一情况后，立即建议中革军委启用整训中的红五军团。
肖劲光、季振同、董振堂、赵博生等人接到电令后异常兴奋，立刻下到各部进行战斗动员。时五军团全体指战员参战热情特别高涨，因为是加入红军以来的首次战役，军团领导十分慎重，当日即带领各部陆续出发，董振堂率十三军首先进驻到赣县茅店、江口一带，等候中革军委的进一步指示。
三月七日凌晨，赣州守敌两个团从挖好的坑道中钻出来，对红军攻城部队发起突然袭击，而配置在章江对岸的敌十一师也按事先部署，强渡章江，向红军的侧后猛攻，对红军形成内外夹击之势。时由彭德怀、滕代远指挥的红三军团已在赣州城下苦战多日，体力消耗极大，指战员们都在酣睡之中。
面对潮水般涌来的敌人，红军将士在失去建制，各自为战的情况下，奋勇抵抗，双方在城下开始了一场惊心动魄的混战。由于缺乏警惕，三军团各部均陷入十分被动的境地，再无增援，三军团将有全军覆没的危险。该军一师政治委员黄克诚指挥部队就地组织反击，一边寻找机会准备突围。在此关键时刻，红五军团副总指挥董振堂率十三军赶到了，董振堂见战场上敌我双方混战在一起，情况危急，来不及多想了，他从马背上抽出大刀，果断命令道：“同志们，上大刀，杀呀！”十三军指战员手持大刀跟着军长冲向敌人。
在这里须简要介绍一下红五军团的大刀。由于原西北军装备较差，擒拿格斗和大刀便纳入为士兵训练的主要科目，差不多每个士兵都能使上一手好刀法。赣州战役一年之后，同样是西北军的一部——第二十九路军，在宋哲元、佟麟阁、赵登禹等爱国将领的带领下，也是用大刀，在长城抗战中，杀的日寇胆战心惊，沉重打击了日本侵略者的嚣张气焰，杀出了中国人民的士气。消息传开，举国振奋，热血青年纷纷要求参军上前线杀敌，正在上海进行抗日活动的著名作曲家麦新深受鼓舞，旋即创作了一首不朽的战歌——大刀进行曲，献给英勇抗日的第二十九路军。
话转回头，赣州城下突然亮起数千把大刀，刀光闪闪，仿佛一片刀的海洋，所