大革命失败后，第一次国共合作破裂，白色恐怖笼罩全国。党的活动转入地下，转向武装斗争。

    在陕北地区，盘踞在榆林的军阀井岳秀，也发动了疯狂的“清党”运动。1927年8月4日，井部包围了绥师，命令学校师生全部离校，焚烧了进步书刊，一时火光冲天，喊声一片，校长常汉三愤慨痛哭。学生们一个个被迫走出校门，受到严格的检查。绥师教员、中共绥德地委书记蔡楠轩和中共绥德地委宣传委员关中哲以及党员教员雷五斋、赵少西等被驱逐出境，校长常汉三被禁居绥德，三年不准任公职、任教，不准离开绥德。与此同时，延安驻军亦奉令封闭了延安省立四中，中共延安地委书记、四中校长田伯英被软禁在校，大部分教师被遣散回家；尔后由反动分子冯楚锡接任四中校长，对学校进行改组，党、团员多数被迫离校。在井岳秀部总部的驻地榆林，中共榆林地委负责人马云程、周家于、郭洪涛、杜聿德等七人被通缉，他们随即离开陕北。陕北的党、团组织大多数一时陷于无人主持的散乱状态，革命迅即转人低潮。

    1927年9月以后，中共陕西省委陆续派人到陕北恢复和整顿组织。1928年4月，中共陕北特委成立。1931年1月，马明方任特委委员。恢复和发展党的组织，积聚革命力量。

    1927年下半年至1933年，陕北党组织处于秘密工作时期。马明方为恢复和发展党的组织，积聚革命力量，做了大量工作。

    1927年下半年，马明方任中共横山区委书记，在横山响水堡 以小学教员为掩护，恢复和整顿党的组织。当时，响水堡小学校长曹亚华、教员强雄飞等都是党员，街上也有些党员。他在响水堡积极开展了党的工作，在教师和学生中发展党员；同时在学生中进行革命宣传和思想教育工作。响水堡的党、团员和进步学生，后来大多数参加了陕北游击区和陕甘宁边区的工作。

    1928年至1929年，马明方先后在绥德北区、东区、四十里铺工作，担任中共绥德县委委员、北区区委书记、巡视员等职。

    1928年前半年，马明方是在杨家沟小学以教员作掩护工作的。校长马醒民，是杨家沟的大地主，教员和学生大部分是本村人，地富子弟多，和外村联系很不方便，半年后马明方就离开学校了。当时与马明方取得了工作联系的有李林威、魏锡九等，他们所地区的工作有进展，发展了一些农民党员。

    1928年下半年，马明方没有社会职业作掩护，以中共绥德县巡视员身分，到各区巡视和帮助工作。8月，马明方和景仰山到德南区巡视工作时，在铁茄坪无定河畔开了区委会议，要求党员人群众，大胆开辟工作。当时南区区委书记崔田夫，雇农出身，作积极，在群众中有威信；区委领导成员崔田民、崔正冉等能密联系群众，所以南区铁茄坪一带，农民党员较多，群众工作基础好，党在群众中的影响很大。随后，马明方又去绥德城区、东区巡视工作，发现东区义合镇马家川一带工作较差，便指导党员积极在群众中开展工作。雷家沟、深沟里、义上坪一带工作较好，区委负责人刘汉武、霍维德等工作积极。这一带有一个小学校，冬天有冬书房作为党组织活动的场所，党员数量和党的工作有所发展。这半年来，马明方在巡视各区委工作时，向很多党员和群众进行了调查，对农村情况和党在农村的工作，有了较多较细的了解。他在实践中进一步认识到党的工作重点转移到农村的重要性。陕北农民是革命的主要力量，他们深受地主、官府的剥削压榨，生活极端贫困，有很高的革命积极性和勇敢的斗争精神，如果脱离农村、脱离农民，革命斗争是不能成功的。

    1929年，马明方任北区区委书记，在四十里铺小学以教员身分作掩护进行工作。校长是一位农民，教员马绳武等都是党员，农村