1924年冬,，楊杰以第一名的成績(jī)從日本陸軍大學(xué)畢業(yè)。他拒絕了日本當(dāng)局和好友的挽留,，毅然回到了魂?duì)繅?mèng)縈的祖國(guó),。當(dāng)時(shí)正值國(guó)共第一次合作,，楊杰遂到南方投奔程潛領(lǐng)導(dǎo)的國(guó)民革命軍第六軍,，先后擔(dān)任總參議,、第十七師師長(zhǎng),，并率部參加了北伐戰(zhàn)爭(zhēng),。1927年初,，程潛被蔣介石等人從南京擠走，所部被蔣介石先改番號(hào)為暫編第六軍,，后又改編為第十八軍,，楊杰均出任軍長(zhǎng)。南京政府成立后,，楊杰率部參加了南京方面與北洋軍閥孫傳芳部在南京郊外龍?zhí)盾?chē)站的大規(guī)模會(huì)戰(zhàn),，幫助蔣介石肅清了孫傳芳?xì)埐俊?/P>

楊杰卓越的軍事才能得到蔣介石的賞識(shí)，龍?zhí)稇?zhàn)役后不久就被任命為南京國(guó)民政府軍事委員會(huì)委員。1928年4月,，楊杰被第一次“下野”后復(fù)出的蔣介石委以重任,，以第一集團(tuán)軍總參謀長(zhǎng)的身份隨蔣介石參加了“第二次北伐”。5月,，軍隊(duì)到達(dá)濟(jì)南時(shí),，遭到日本軍隊(duì)的阻撓。日本害怕國(guó)民黨統(tǒng)一全國(guó)后會(huì)妨礙其在華利益,，便以保護(hù)其僑民為借口,，對(duì)濟(jì)南發(fā)動(dòng)武裝攻擊。蔣介石畏懼日軍的勢(shì)力,，竟然要求第一集團(tuán)軍全面撤退,。楊杰見(jiàn)此情景，耐心地向蔣介石分析當(dāng)時(shí)的形勢(shì),，勸說(shuō)蔣介石不可中了日軍的詭計(jì),，并當(dāng)即打開(kāi)地圖對(duì)蔣介石說(shuō):“這件事早在估量之中，可令未渡黃河的部隊(duì),，改道渡河,；已經(jīng)到達(dá)濟(jì)南的部隊(duì)，迅速離開(kāi)濟(jì)南往北推進(jìn),，以收北伐全功,?！笔Y介石依計(jì)而行,，部隊(duì)順利進(jìn)駐北京，奉系軍閥張作霖被迫率部退往關(guān)外,。

6月15日,，南京國(guó)民政府宣告完成政權(quán)的統(tǒng)一。北京遂被易名為北平,，楊杰先后被蔣介石任命為總司令部的北平行營(yíng)主任,、陸海空軍總司令行營(yíng)總參謀長(zhǎng),。

1929年5月,，蔣介石與馮玉祥之間的戰(zhàn)爭(zhēng)爆發(fā)，楊杰被任命為南路軍總參謀長(zhǎng),，具體負(fù)責(zé)對(duì)馮部作戰(zhàn),。10月，馮系將領(lǐng)宋哲元等通電反蔣,，并率部東出潼關(guān),，對(duì)蔣軍發(fā)起強(qiáng)大攻勢(shì)，使蔣軍的整個(gè)戰(zhàn)局告急:登封不守，密縣將陷,，臨汝城被圍,。在此關(guān)頭，楊杰決定,，以一部阻止馮軍,，封鎖臨汝城之咽喉，一部側(cè)擊登封,，以解臨汝城之圍,。在楊杰的指揮下，蔣軍一舉擊潰馮軍,，扭轉(zhuǎn)了整個(gè)戰(zhàn)局,。11月，馮軍退回陜西,。

1930年5月至10月,，中國(guó)現(xiàn)代史上規(guī)模最大的軍閥混戰(zhàn)——中原大戰(zhàn)爆發(fā)。戰(zhàn)爭(zhēng)的一方是蔣介石的軍隊(duì),，另一方是閻錫山,、馮玉祥和李宗仁、李濟(jì)深的聯(lián)軍,。在這場(chǎng)戰(zhàn)爭(zhēng)中,，楊杰多次為蔣介石立下大功。

有一段時(shí)間,，蔣,、馮、閻三支軍隊(duì)曾膠著于隴海路中段鄭州——開(kāi)封——蘭封——考城一線(xiàn),。蔣介石無(wú)法挽回劣勢(shì),，心急如焚，多次電邀時(shí)任第二炮兵集團(tuán)指揮官的楊杰南下問(wèn)計(jì),。楊杰南下后,，隴海線(xiàn)吃緊，雙方混戰(zhàn)正急,。蔣介石總部駐扎柳河車(chē)站,，大部分軍隊(duì)已派往第一線(xiàn)，留在身邊僅一個(gè)特務(wù)營(yíng),。此時(shí),，偵察機(jī)突然來(lái)電:“敵軍一個(gè)騎兵大集團(tuán)正在向車(chē)站急進(jìn)?！笔Y介石頓時(shí)十分驚慌,，因?yàn)楦緹o(wú)法調(diào)回軍隊(duì)支援,，以己方一個(gè)營(yíng)的兵力對(duì)付一個(gè)騎兵大集團(tuán)，無(wú)異于以卵擊石,。他急忙問(wèn)計(jì)于楊杰,。楊杰急中生智，說(shuō):“現(xiàn)在情況緊急,，我沒(méi)有時(shí)間解釋?zhuān)憧梢粤⒓锤嬖V站上,，將列車(chē)的兩頭各安一個(gè)車(chē)頭?！笔Y介石馬上又照辦,。這樣，當(dāng)敵軍大舉進(jìn)攻車(chē)站的時(shí)候,，楊杰令列車(chē)向北急駛,，等開(kāi)出二三十里地后，馬上又向南急駛,。敵軍被吸引跟著列車(chē)跑來(lái)跑去,，很快筋疲力盡。對(duì)方指揮官見(jiàn)這樣不是辦法,，于是改變行軍路線(xiàn),，派兵去燒附近的機(jī)場(chǎng)。楊杰了解到:此前,，空軍有些轟炸機(jī)因找不到目標(biāo),，沒(méi)有投彈，剛剛返回機(jī)場(chǎng),。按當(dāng)時(shí)規(guī)定,，如重磅炸彈未使用完，不得留在機(jī)場(chǎng)降落,，以免發(fā)生爆炸?，F(xiàn)在事態(tài)緊急，楊杰當(dāng)機(jī)立斷,，下令飛機(jī)馬上降落機(jī)場(chǎng)，但不準(zhǔn)卸下炸彈,。如此一來(lái),，敵軍火燒機(jī)場(chǎng)時(shí)，重型炸彈先后爆破,，震耳欲聾,。敵軍以為中了埋伏，趕緊撤退,。楊杰抓住機(jī)會(huì)下令特務(wù)營(yíng)乘機(jī)沖出,，迅速打退了敵騎兵集團(tuán),。蔣軍此次以少勝多，多虧了楊杰的指揮,。蔣介石事后對(duì)楊杰說(shuō):“耿光,！不是你在此，我們一定當(dāng)了俘虜了,?！?/P>