1944年6月20日，中日双方在衡阳周边50公里的范围内，分别投入了30万与35万兵力，先于外线展开激战。至7月底，日军4个精锐师团相继逼近战略中心衡阳。国民党第九战区第十军方先觉部扼守衡阳，抵抗日军的猛烈进攻。此次衡阳之战，是抗战后期最大规模的一次会战，被蒋介石称之“有关于国家之存亡，民族之荣辱至大”的最后一场生死之搏。日军大本营灯火通明，各级将官、参谋人员日夜研究、观注着这场战事，中国军民与各党派团体翘首以待，盼望国军用尽吃奶的力气也要顶住，千万不要被打趴压垮。
此时驻守衡阳的国民党第十军，前身为黄埔教导团，北伐时代扩编为国民革命军第三师，或称“老三师”，其将领分别为钱大钧、李玉堂、蒋超雄、方先觉、葛先才、周庆祥等，历届第十军军师长也多为“老三师”旧部。抗战军兴，第十军成为国民党五大主力之一，其特点是善于防御作战。
此时的第十军因此前参加常德保卫战遭到日军重创，原四师（第三师、第一九○师、预备第十师、暂编第五十四师）已折半，仅相当于两个师的兵力，共有1.7万余人，属于久战疲惫之师。而日军围攻衡阳部队除第十一军4个师团，另有直属炮兵、化学部队等共计11万人，中日兵力比值为1：6.4，如此悬殊的兵力对比，在整个抗日战争属首次出现，正因了这诸多的因素，为这场战争增加了一系列悬念并涂上了悲壮色彩。
按照国民党军事委员会原定计划，国军主力布置在衡阳外围，以方先觉部万余人吸引日军倾全力前来攻城，只要方部扼守衡阳10天，最多两周，即有外围主力部队增援并成铁桶合围之势，里应外合，一举围歼来范之敌。
6月23日凌晨，衡阳攻防战正式打响，双方均以火炮为主猛击对方，日军主用重炮与野山炮，中方主用迫击炮，中间伴有其他武器交火与小范围、短时间的肉搏战。中国守军士气高涨，日本方面“负责攻城之两师团，鉴于长沙之攻占，已被他人捷足先登，功震全国，乃欲急起效尤，一时战志如云”。[7]两支强军狭路相逢，各怀战志，死拼硬磕，战斗持续了近一个月，双方伤亡重大，未分胜负，攻防双方皆拼全力支撑。多少年后，据方先觉对日本《产经新闻》记者古屋奎二说：“由于长期作战，医药品和食品缺乏，极感困苦。没有止血药剂，没有绷带，负伤官兵的伤口有发炎生蛆的现象。本来可以救治的官兵，很多都死亡了。我们给予敌人的打击也非常之大，每天可以望到敌阵在举行火葬的烟焰。整个衡阳城被死尸臭气所笼罩，实在是很悲惨。”
生死已到紧要关头，最后的决战即将开始。中日双方皆倾全力投入这场关乎国家存亡的攻守战。大海那边的日本天皇翘首以待，密切关注着这场千里之外的战事。日军大本营命令第十一军全力投入攻城之战，并调集炮兵、化学部队配合，以尽快拿下衡阳。正身患痢疾、身体衰弱、焦躁不安的日军横山勇中将认为时机已到，不再犹豫，集结第十三、四十五、五十八、六十八、一一六共5个师团，外加五十七旅团和重炮、化学部队共11万余众，向衡阳城围攻而来。面对日军的强悍攻势，国民党军事高层人员更加焦虑不安，皆以悲壮的心境注视着这场关乎民族安危的攻防战。
孤军守战，势难支撑的第十军军长方先觉仍不断发出急电，力陈所部将士面临的困难与险境：“本军固守衡阳，将近月余，幸我官兵忠勇用命，前赴后继，得以保全，但其中可歌可泣之事实与悲惨壮烈之牺牲，令人不敢追忆！”又说：“自昨三十日晨起，敌人猛攻不止，其惨烈之战斗，又在重演。危机隐伏，可想而知，非我怕敌，非我叫苦，我决不出衡阳！但事实如此，未敢隐瞒，免误大局。”
蒋介石在7月31日的日记中写道：“衡阳保卫战已一月有余，第十军官兵死伤已过十分之八，而衡阳屹立不撼。盖以衡阳之得失，其有关于国家之存亡，民族之荣辱者至大也。”
8月1日，日本第十一军司令官横山勇中将，佩戴“天照皇大神宫”神符，携随员乘侦察机三架由长沙飞抵衡阳机场，亲自指挥日军步兵、炮兵等兵种相当于七个师团的兵力联合作战，企图一举攻下衡阳，击溃方先觉部。
8月2日，国民党增援部队按蒋的数次电令火速向衡阳推进，仍如携山搬家，无法突破日军封锁。无奈中，蒋介石动用飞机穿越敌人炮火向衡阳投下手谕，不许方先觉再发电请援，同时嘱其注意一死报国，内称：“我守衡官兵之牺牲与痛苦，以及迅速增援，早日解围之策励，无不心力交瘁，虽梦寐之间，不敢忽之。惟非常事业之成功，必须经非常之锻炼，而且必有非常之魔力，为之阻碍，以试炼其人之信心与决心之是否坚定与强固。此次衡阳得失，实为国家存亡攸关，决非普通之成败可比。自必经历不能想像之危险与牺牲，此等存亡大事，自有天命，惟必须吾人以不成功便成仁，惟有以死报国之决心以赴之，乃可有不惧一切，战胜魔力打破危险，完成最后胜利之大业，上帝必能保佑我衡阳守军最后之胜利与光荣。”同时告之增援大军已“严督猛进”，严令第十军将士继续坚守勿退，力克敌军。
方先觉怀揣训令，苦苦支撑，艰难等待。几天过去，尽管心急如焚，望眼欲穿，仍是“上穷碧落下黄泉，两处茫茫皆不见”，连一个援兵的影子也没看到。
8月4日晨，日军以重炮5门、野山炮50门和约五师团兵力向衡阳发起第三次也是最后一次总攻。按总指挥官横山勇的作战计划，预期可在一天之内，必下此城。但正如日本战史所述：“敌人之守将方先觉将军，为一号骁勇善战之虎将，其第十军之三个师，皆以必死之决心，负隅顽抗，寸土必守，其孤城奋战的精神，实令人敬仰。我第一日之全力猛攻，竟又被迫无效而终。亘四十余天之激战中，敌人尚无一卒向我投降，实为中日战争以来之珍闻，如非敌人在长期抗战中已逐步将游杂部队整编为正规军，则必系我军之两次挫败，使敌军坚定了必胜的信心！但我军之此次总攻，若不成功，将何以对陛下！何以见同胞！第十一军亦将永远沦为受人卑视的境遇。责任心荣誉感之所驱，全军将士犹如强攻旅顺要塞之乃木军（南按：指1904年日俄战争时期之日军），生死不顾，用肉体径向敌人之阵地硬拼。”从这则记载可以看出，此时已杀红了眼的日军同样只能进不能退，遂决定孤注一掷，来一个鱼死网破的最后决战。
8月6日，中日双方经过激烈的争夺拼杀，强悍的日军第五十八师团作凭借熟练的攻坚经验，终于突破衡阳城北一角，并迅速以一部突入市街。在敌机猛烈轰炸下，守军阵地几夷为平地，阵地官兵与攻入之敌展开近战与肉搏，血战不久全部战死。日军乘势以精锐之师向城内第十军指挥部所在地——中央银行急速进击，守城官兵再度与日军展开大规模巷战与肉搏，衡阳顿成一座鲜血喷溅的血城，第十军无一人不参加近战与白刃格斗，无论是炊事员还勤杂兵，都抡着菜刀与烧火棍进入战场竭力拼杀，惨烈的肉搏持续了两个昼夜又半天之久。
8月7日，日军调集重炮、野山炮百余门齐向衡阳城猛烈射击，横山勇再度下令强行总攻，欲一举攻克城池。蒋介石深知衡阳战况已到生死存亡、千钧一发之际，特督令援军战车部队急进增援，并电第十军告以“援军明日必到衡阳，决不延误”。延至下午3时，衡阳城内仍不见援军到达，此时守军支撑已到极限，方先觉在征求手下几位高级将领的意见后，向蒋介石发出了最后一份电报：
敌人今晨由北城突入以后，即在城内展开巷战，我官兵伤亡殆尽，刻再无兵可资堵击，职等誓以一死报党国，勉尽军人天职，决不负钧座平生培育之至意。此电恐为最后一电，来生再见。
方先觉率参谋长孙鸣玉，师长周庆祥、葛先才、容有略、饶少伟同叩
电报发出后，方先觉巡视部队已过，回到指挥部决心自戕，当手枪对准太阳穴之际，两个副官扑上来把枪打掉，众皆悲泣，一面组织伤兵残将继续阻击，一面仍幻想有天兵突降，挽狂澜于既倒。
蒋介石通过空军侦知衡阳城已岌岌可危，约晚7时接到方先觉发来的电文，悲怆中几乎晕倒。于绝望中，口述“祝上帝保佑你们”七字电文，而后一声长叹，整个身子靠在椅背上，头偏于一旁，无力地闭上眼睛不再言语。站在蒋介石一边的侍从室第六组组长兼军统局帮办唐纵，在当天的日记中记载，六组首接方先觉来电，“读后不禁暗然神伤，热泪夺眶！查衡阳自六月二十六日敌军迫城至本月八日止，达四十四天，我援军始终不能攻达衡城，致守城士兵全军玉碎，痛叹无已！
