1938年1月5日，华侨抗敌动员总会在广州汉民南路联义社召开成立会，到会华侨团体代表请余汉谋总司令组织华侨义勇队。三天后，广东省民众抗日自卫团统率委员会选余汉谋为主任。3月8日，5000余妇女代表在广州省民教馆召开“三八”国际妇女节纪念大会，妇女代表向余汉谋献旗。18日，余汉谋、吴铁城联名发表《告全省工友书》，要工友积极参战。4月10日下午六时，中山纪念堂举行了“台儿庄祝捷大会”，余汉谋在会上讲话表示祝贺。7月7日，广东各界举行纪念抗战及追悼抗战阵亡将士、死难同胞大会，会上代表们又向余汉谋、吴铁城、曾养甫（吴、曾均为余汉谋的副手）献旗献剑。是日中午12时全民默哀三分钟，军民全天素食，节约款捐作慰劳金。繁华街口设祭坛，供民众公祭。后来北方各地民众也疏散来到广州，各界代表纷纷向余汉谋献旗献剑，锦旗和利剑让余汉谋感到保家卫国的重任在身，义不容辞。当时他对美国合众社记者说：“敌军如犯华南，我当予以痛击。广东200万武装民众，随时可以作战。”在“双十节”庆祝会，大家高呼“保卫广州！保卫广州！”。

1938年9月，武汉会战爆发，日军为阻断中方补给线，策应武汉战场，从台湾集结准备于10月在广东大亚湾登陆，而此时的粤系军队却先后被抽调至中原及武汉，防守力量单薄，驻守在惠州的仅有一个师兵力。敌人对广东的攻击自9月19日，由日本大本营发出201号大陆令开始。10月12日，日军以7万陆军、500艘舰船、100多架战机，在大亚湾一带强行登陆。敌众我寡，日军用时四天即兵临增城城下，而此时广州却只有由宪兵、警察、税警组成的武装在守卫。在抵抗一周后，余汉谋认为难以正面歼灭敌人，应择更有利地形作战，于是下令各部撤退至花县、清远等地，另派一部在惠州、淡水、虎门、宝安等地开展游击战。10月21日，广州沦陷。

日军可谓轻而易举赢得广州，伤亡仅600余人。余汉谋不战而走，难辞其咎，特别是他抽调5万余军队北上参加武汉会战，广东兵力削弱，各界人士对此提出质询。文武官员，尤其是广东籍官员，闻此噩耗，无不伤心落泪。驻美大使胡适致电蒋介石：“广州不战而陷，国外感想甚恶。”此间的余汉谋也是日日饮酒，每饮必醉，每醉必哭。

面对一片责难声，1938年11月10日，余汉谋通电即将大举反攻，誓死雪耻，恢复广东精神，而慰国民。12日，我军主动出击，攻克从化县城。以后撤退粤北，开始积极的抵抗。而日军限于战线太长，兵力不足，只能以广州为中心活动。一年后，即1939年底，桂南会战点燃，为牵制中国军队，防止在桂日军腹背受敌。1939年12月15日，在粤日军用七万兵力分三路北进，与我一八七师、一五八师和九二零团（团长何宝松）在伯公坳、迎咀激战了10天，一五四师则在龙塘掩护作战，但我军未能阻敌前进，源潭、潖江口、河头先后失守。敌中路由太平场、从化北进，开始攻打良口，我军一个营在狗耳脑壮烈殉国。敌人右翼从增城出发，占领翁源。韶关告急，省府迁往连县，余汉谋当机立断，在12月26日率部全线反攻，日军被我截为两段，敌势顿挫。1940年1月4日，余汉谋部再克翁源的官渡，以后是从化、花县，取得胜利，国民政府撤销了余汉谋因广州失陷时的记过处分。

1940年5月上旬，日军华南派遣军司令部抽调其三十八师团到作为主力部队2万多人，进犯粤北。两军在从化──良口一线战斗十分激烈，最后，我军取得了良口大捷。两次粤北会战的胜利，挫败了日寇切断粤汉铁路的阴谋，振奋了两广军民争取胜利的决心。尽管第四战区司令是张发奎，余汉谋是副司令，但张驻柳州，前线指挥仍以余汉谋为主。经此二役，余汉谋一雪前耻，官复原职，任第七战区司令长官。1945年8月15日，日本宣布投降，余汉谋对部下说：“这次我们终于可以重返广州了。”余汉谋被任命为第七战区受降官，在汕头接受日军二十三军参谋长富田直亮的投降。

1949年9月7日，解放军制定了进军广东的作战计划。此时，蒋介石亲自从台湾飞到广州，带着余汉谋来到黄埔军校，为他打气。谁知不是黄埔出身的余汉谋并无兴趣，只是敷衍道：“总裁当年练兵兴党，真乃千古佳话。”10月2日，解放军22万多人，在陈赓的指挥下，分三路进军广东。余汉谋部利用北江及其支流和粤汉铁路节节阻击，以破路炸桥作为手段，但皆徒劳无功。10月14日，解放军攻克广州。

广州解放，余汉谋、薛岳败走海南。1950年，海南岛解放，余汉谋等又逃至台湾。离开大陆，余汉谋充任“总统府”战略顾问、国民党中央评议委员的闲职。为避免蒋介石的猜忌，他搬到了台湾北投郊区住下，每天以欣赏字画、读书看报打发时日。前任“中央宣传部长”的梁寒操是余汉谋的小学同学，也搬到北投与其邻居，两位肇庆老乡朝夕相处，结为莫逆。1975年，梁氏因心脏病发猝死，余汉谋黯然神伤。

1980年，余汉谋被确诊患上肺癌，以后一年多他在三军总医院接受治疗，病情时好时坏。病中的余汉谋总是惦念大陆、想念广东，1981年，家住香港已经是98岁高龄的姐姐余淑贤提出自己要回大陆定居，余汉谋第一个表示赞成，他说：“落叶归根是对的，我支持你。如果有什么困难，我帮助解决。”他派三太太来港为姐姐处理回大陆的事务，为她准备好轮椅等生活用品。是年12月，余淑贤回到了广州，住进了东山百子横路的旧居，在此终老。同月17日，余汉谋因癌症不治病逝台湾，终年85岁。

翕庐是余汉谋的故居，如今，翕庐是余汉谋胞兄余骏谋后人继承的共有物业，肇庆成为国家历史文化名城后，余家后人在2004年12月27日将其捐赠给了政府。翕庐建于中华民国二十三年（1934年），坐南向北，为中华民国时期中西合璧式建筑风格。它的门楣上镶有“翕庐”二字，是当年肇庆鼎鼎大名的才子梁清平亲自题写。平面布局由主楼、东西附楼、后花园以及围墙组成，占地面积1200平方米，建筑面积1884平方米。楼分三层，混凝土砖木结构。墙体用水磨青砖砌筑，绿琉璃瓦顶，施仿木斗栱，额枋饰彩绘图案，底层贴花岗岩墙裙。翕庐是端州区现存面积最大、保存最完整的中华民国时期宅院，具有较高的历史和艺术价值。翕庐在解放后收为国有，为中共西江地委驻地，后曾用作学校、高要公安局等机构，2003年被列为“肇庆市文物保护单位”。今年4月，肇庆市人民政府拨专款对翕庐实施修缮保护工程，经相关主管部门研究，将翕庐移交给端州区管理，并改建为端州区博物馆。