1933年10月4日，刘志丹、黄子文、王世泰、黄罗斌等历经磨难辗转回到照金，受到根据地军民的热烈欢迎。

    自红二十六军二团南下后，照金革命根据地的处境十分危急。7月，驻耀县的杨虎城部骑兵团团长王泰吉，按照省委指示，在中共三原中心县委协助下，率部队起义，成立了“西北抗日民众义勇军”，起义部队在三原张家坳的辘辘把受挫后，退回照金。与此同时，中共耀县县委组建了耀县游击队，转入照金苏区。同月下旬，中共三原中心县委根据陕西省委指示，将渭北游击队改编为红二十六军第四团，在国民党以重兵“围剿”渭北革命根据地的形势下，红四团在与敌周旋激战后，由团长黄子祥、政委杨森带领，于8月初进入照金苏区。这三支革命武装相继到照金后，壮大了革命武装力量，为重新恢复红二十六军，巩固照金根据地奠定了基础。

    刘志丹、黄子文等回到照金后，刘志丹担任陕甘边红军临时总指挥部参谋长，王世泰、黄子文及先期返回照金红二团的同志都重新加入了红军部队，加强了红军部队的领导和骨干力量。10月中旬，红军主力在外线作战，敌人调数千人“围剿”，照金失守。

    11月初，红二十六军四十二师党委在甘肃省合水县莲花寺成立，王泰吉任师长，高岗任政委，刘志丹任参谋长，黄子文任政治部主任。随后，部队进军甘肃南梁，开辟以南梁为中心的陕甘边革命根据地，作为红二十六军的军事后方，并建立一、二、三路陕甘边游击队总指挥部，配合红二十六军开展游击战争，子文兼任第三路陕甘边区工农游击队总指挥部政委。

    1934年1月，部队由淳化、旬邑返回南梁途中，高岗在正宁县湫头原南邑村违犯军纪，在部队和群众中造成恶劣影响。游击队员高战胜将此事告知政治部主任黄子文，子文又告知师党委，建议作以处理。师党委即在合水廉家砭召开师党委会，批评帮助高岗。会上，黄子文从严明党纪、军纪和爱护同志的角度出发，对高岗提出了较为严厉的批评。最后，师党委撤销了高岗师政委职务，由红四团政委杨森继任师政委。从此高岗对黄子文怀恨于心。

    2月，黄子文因病到西安治疗。4月，师政委杨森负伤后，由骑兵团政委张秀山接任师政委。张秀山在黄子文尚在西安治病未归的情况下，师党委却以黄子文“右倾”、“打了败仗”为由开除了子文的党籍。同月中旬，张邦英、王安民率领第三路游击队攻克耀县黄堡镇，消息在西安的报纸上披露后，张文华拿着报纸对病情有所好转的子文说：“你带我去红二十六军吧！”子文看了报纸，说：“看来北上路途无障碍了，我们先到武字区，再组织一支游击队带上去，壮大红军。”

    第二天，张文华让西安党组织魏光波开了介绍信，和白耀清、杜宛随子文前往三原。快到草滩时，白耀清对张文华说：“听在西安看病的蔡指导员讲，子文被二十六军开除党籍了！”张文华说：“先别告诉子文！”他们的小声议论被子文听到了，他若无其事地说：“即使我个人受多大委屈也要把革命干到底，红二十六军把我的党籍开除了，是因为有些人不了解我，以为我搞起武装这一摊子，是想当个营、团、师长，其实我是为着工农社会解放的！”

    子文到武字区后，找到留在家乡的游击队员王启德，将组织人北上的事一说，王启德很快集合了十二三个人。子文一行转了好几天，才在七碣石见到了第三路游击队政委张仲良和总指挥王安民。张仲良给子文带的人发了武器弹药，让其先在淳耀边界一带活动。

    5月上旬，黄子文又从西安带蔡子伟、许图琏、张静文（女）、蔡春堂回到武字区，又将游击队集合起来，准备回红二十六军。队伍走到耀县的东坪时，又见到了张仲良，方知三路游击总指挥部在白家山遭后沟民团袭击，总指挥