曾怀着无比崇敬的心情，凭吊了这位同乡的在京故居，并写下了《燕京吊袁督师》一诗。“黄沙白雾皂雕旗，独赖孤臣两臂挥。热血作书招死士，裹疮临战立重围。遂令汉卒闻笳奋，共扫妖氛奏凯归。劳苦功高谁得似，中山何事谤书飞。”

    自那时起，他就立下了这样一个志向，有朝一日，像袁督师那样，竭尽所能，不计诽谤，为国效忠。

    第二年（1644年）的三月，李自成率领大顺军攻入京城，张家玉被捉。

    大顺军对这位“夙有清名”的大明官员相当客气，不仅没有将他纳入“追赃助饷”的黑名单，反而热情地邀请他“弃明投顺”，为新兴的大顺朝服务。

    但家玉同志就是如此地不识时务，不但不降，反而搞起了绝食斗争。

    绝食七日后，对他敬佩有加的大顺政府决定“网开一面”，放掉了这位耿气的“不合作者”。

    被放后的他，知道自已在京已无所作为，就直接回到家乡静观其变。

    弘光朝建立后，被人诬告犯有“投敌叛国罪”的他，被锁拿进京（南京）。

    幸亏有人，拿出充分证据证明其清白，张家玉最终才被“免于刑事处分”，无罪释放。

    弘光朝覆灭后，张家玉积极参与了“拥唐运动”，并在后来建立的隆武政权中，任翰林院侍讲，兼理吏、户、礼三科事。

    不久，他被下派到郑彩军中，担任“政委”（监军）。

    但郑彩阳奉阴违的做法让他认识到：依靠军阀建国，等于沙上筑塔。

    明白了这一点，他立刻弘扬“知行合一”的精神，自己着手组建了一支小小的武装部队——武兴营新军。

    在隆武帝汀洲遇害后，无粮无饷的他，一度对时局悲观失望，解散了新军，仅带了一部分骨干返回家乡。

    道滘的胜利，让他在大发感叹的同时，也看到了希望。

    他马上派出手下的参将陈登云，赶往道滘联络。

    道滘义军头领莫子元、叶如日见这位名扬海内外的人士主动联络，异常高兴，他们马上派出战船，把张家玉所带的兵马及家眷等接到道滘，共商抗清大计。

    张家玉的资历、名望、能力，使他一来就变成了这个抗清基地的“实际领袖”。

    在他的主持下，道滘迅速完成了以下四项工作：

    1、修泥城。

    张家玉根据道滘的地形特点，提出一个“经济实惠，即刻可行”的工事修造方案——筑泥城。经过数千人热火朝天地加班加点，泥城在一夜之间便奇迹般地矗立在这块红土地上。

    泥城内，坑道交错，陷阱、火炮、地雷依点设置，环环相扣，完全成了一个“绞肉机”式的堡垒工事。

    2、整军队。

    张家玉对这支来自四村八乡，为了一个共同的革命目标，走到一起来的义军，申明约束，整顿军容，严肃军纪，使义军做到真为国、不忧民，取得当地百姓发自内心的拥护和支持。

    在此基础上，他选出精壮骁勇的五千人，组成了“突击部队”，作为攻防作战的主力。

    3、举义旗。

    1647年3月4日，张家玉正式树起义旗，表示“弹丸之地”的小道滘将与“庞然巨兽”的大清国决战到底，并热忱欢迎华夏大地上，一切不愿作亡国奴的人民，加入到道滘的“反抗阵营”中来。

    4、取东莞。

    为将抵抗事业做大做强，张家玉并不死守道滘。他邀请博罗县的举人韩如琰，作为自已新的合作伙伴。约其从陆路进军，自己则率“突击部队”从水路接应，直取东莞。

    双方于3月14日，发起水陆夹攻，当日就拿下东莞，活捉清朝新任命的“伪知县”。

    张家玉四个快速而漂