。辛亥革命爆发后，杨杰回到国内，开始其军旅生涯。经过10年的杀伐征战，他成了一代名将，获得了陆军中将军衔。随后，杨杰放弃军中那诱人的功名，再度来到日本，入该国陆军大学深造，并以第一名的优异成绩毕业。

    归国后，他逐渐受到老同学蒋介石的信任和倚重，先后出任国民党第一集团军总参谋长、第二炮兵集团指挥官、陆海空军总司令行营参谋长、国民党中央执委、陆军大学校长、教育长等职。杨杰是军中公认的名将。他曾经被国民党滇军视为再造之人。

    国民革命军第二次北伐时，杨杰以第一集团军总参谋长的身份跟随在蒋介石身边。协助蒋介石取得了巨大的胜利。

    杨杰因此受到了蒋介石的器重。随后，蒋冯阎中原大战时，杨杰又多次为蒋介石立下大功。蒋介石在一次危难中依靠杨杰化险为夷，他笑眯眯地对杨杰说：“耿光！不是你在此，我们一定当了俘虏了。”

    可以说，杨杰与蒋介石之间曾有过很亲密的关系。然而，曾几何时，由于双方在一些重大问题上的分歧，使二人关系逐渐疏远，最终分道扬镳，乃至成为政敌。

    1938年至1940年，杨杰出任驻苏大使。在苏期间，他经常与斯大林、伏罗希洛夫等领导人密谈，受到高度重视，为中国争取大量的军用物资和贷款，有力地支援了中国的抗战。他仔细研究了苏联的社会制度及军事国防，认真研读了《共产党宣言》、《资本论》等著作，思想发生巨大变化。回国后，杨杰多次主张改革内政，实行对苏友好政策，遭到蒋介石的不满，只授予他一个军事委员会顾问的闲职，留居重庆，还派人秘密监视。