，又秘密回到了桂林。

    这时，蒋介石决定撤销第一集团军的建制，将七十七军和六十八军合编为第十九军团，让冯治安代理军团长兼七十七军军长，冯治安一心要何基沣重新出山，任七十七军的副军长。何基沣到了洛阳，接受了七十七军副军长的职务，并如实向冯治安谈了自己的延安之行，目的是为了让冯治安也能受点影响，为今后改造部队做准备。冯治安率军上前线作战时，特地把何基沣留下来负责军训团1000多青年军官的培训，中共中央从延安派来的十几名干部也都被何基沣安排到军训团中工作。为了培养出一批有用的人才，何基沣不再担任副军长，而以全力负责军训团的培训。他把军训团带进了桐柏山，一边训练，一边与新四军共同开展游击战争的准备。训练结束之后，他选拔了最优秀的70人组成“七七工作团”，配备最好的武器，由共产党员朱大鹏率领，进入深山，接受新四军的领导，不久编入新四军信阳纵队。

    1939年1月，经我豫鄂边区特委负责人李先念决定，吸收这时担任国民党一七九师师长的何基沣为中国共产党特别党员，在朱大鹏的主持下举行了宣誓仪式。所谓特别党员，就是当年在地下工作的特殊环境之下，不编入基层支部、不过组织生活，和党组织进行单线联系的党员。

    从此，何基沣秘密地为党做了大量工作，还多次为新四军提供枪支弹药和军费。用他的夫人宋晓菡的话说，是“白天当国民党，晚上做共产党”。

    1940年，由于何基沣派去给新四军送款的人被国民党部队所在地的最高军事长官、第五战区司令李宗仁的宪兵抓了，李宗仁要来查实情况。由于冯治安给何基沣提前透了信，他立即将部队中可能暴露的共产党员全部转移到新四军中。不久，何基沣接到五战区长官部要他去重庆中央训练团受训的命令。他只身闯虎穴，离开了他已训练培养了几年的一七九师，到了重庆。明为受训，实为受审。

    这时，蒋介石已把审查何基沣一案交给当时担任军事委员会政治部部长的陈诚处理。陈诚当年在保定军校读书时和何基沣是同学，一次陈诚因有一门课不及格而无法毕业又找不到任何人愿意帮忙时，是何基沣帮他复习，帮他押考试题，帮他补考过关，在陈诚最困难时拉了他一把，才得以毕业。可是这时的陈诚只知完成蒋介石交给的审出几个通共分子的任务，对何基沣进行了好几次变相的审讯，纠集了最能干的反共专家如张厉生、贺衷寒、段锡朋等与何基沣“讨论国共关系”，想从他的口中套出可以定罪的问题来。可是，经过整整半年的反复审查，除了何基沣承认借给相邻驻地的新四军一笔钱的问题之外，找不到其他任何可以给何基沣定罪的罪名。加之冯玉祥、于右任等知名人士对于蒋介石如此对待一个闻名全国的抗日名将的做法深为不满，蒋介石只好把何基沣无罪释放。为了收买人心，临行前蒋介石还亲自为何基沣饯行，要他今后与自己的侍从室保持直接联系。此外，还特地赠送给他一柄中正剑。

    所谓“中正剑”，是蒋介石为了笼络高级将领和特别重要人士而专门制作的一种佩剑，长一尺三寸，重一斤六两，柄镀金，鞘镀银，剑身正中刻有“中正”二字。在当时，是极为难得的一种身份与地位的标志。当何基沣佩上这柄中正剑之后，就成了“佩剑将军”，国民党军政人员见了一般都要畏惧三分。

    1940年9月，何基沣佩着中正剑，回到了三十三集团军，仍然担任第一七九师师长。一方面暗中支持李先念领导的新四军五师，一方面伺机与日寇作战。1941年2月，他率领一七九师在当阳庙击毙了当年进攻南瓜店致使张自忠将军不幸殉国的日军横山少将，为西北军报了一个深仇。由于冯治安后来担任了六战区副司令长官兼三十三集团军总司令，何基沣遂升任著名的七十七军军长。