1924年冬，楊杰以第一名的成績(jī)從日本陸軍大學(xué)畢業(yè),。他拒絕了日本當(dāng)局和好友的挽留,，毅然回到了魂?duì)繅?mèng)縈的祖國(guó)。當(dāng)時(shí)正值國(guó)共第一次合作,，楊杰遂到南方投奔程潛領(lǐng)導(dǎo)的國(guó)民革命軍第六軍,，先后擔(dān)任總參議、第十七師師長(zhǎng),，并率部參加了北伐戰(zhàn)爭(zhēng),。1927年初，程潛被蔣介石等人從南京擠走,，所部被蔣介石先改番號(hào)為暫編第六軍,，后又改編為第十八軍，楊杰均出任軍長(zhǎng)。南京政府成立后,，楊杰率部參加了南京方面與北洋軍閥孫傳芳部在南京郊外龍?zhí)盾?chē)站的大規(guī)模會(huì)戰(zhàn),，幫助蔣介石肅清了孫傳芳?xì)埐俊?/P>

楊杰卓越的軍事才能得到蔣介石的賞識(shí),，龍?zhí)稇?zhàn)役后不久就被任命為南京國(guó)民政府軍事委員會(huì)委員,。1928年4月，楊杰被第一次“下野”后復(fù)出的蔣介石委以重任,，以第一集團(tuán)軍總參謀長(zhǎng)的身份隨蔣介石參加了“第二次北伐”,。5月，軍隊(duì)到達(dá)濟(jì)南時(shí),，遭到日本軍隊(duì)的阻撓,。日本害怕國(guó)民黨統(tǒng)一全國(guó)后會(huì)妨礙其在華利益，便以保護(hù)其僑民為借口,，對(duì)濟(jì)南發(fā)動(dòng)武裝攻擊,。蔣介石畏懼日軍的勢(shì)力，竟然要求第一集團(tuán)軍全面撤退,。楊杰見(jiàn)此情景,，耐心地向蔣介石分析當(dāng)時(shí)的形勢(shì)，勸說(shuō)蔣介石不可中了日軍的詭計(jì),，并當(dāng)即打開(kāi)地圖對(duì)蔣介石說(shuō):“這件事早在估量之中,，可令未渡黃河的部隊(duì)，改道渡河,；已經(jīng)到達(dá)濟(jì)南的部隊(duì),，迅速離開(kāi)濟(jì)南往北推進(jìn)，以收北伐全功,?！笔Y介石依計(jì)而行，部隊(duì)順利進(jìn)駐北京,，奉系軍閥張作霖被迫率部退往關(guān)外,。

6月15日，南京國(guó)民政府宣告完成政權(quán)的統(tǒng)一,。北京遂被易名為北平,，楊杰先后被蔣介石任命為總司令部的北平行營(yíng)主任、陸?？哲娍偹玖钚袪I(yíng)總參謀長(zhǎng),。

1929年5月，蔣介石與馮玉祥之間的戰(zhàn)爭(zhēng)爆發(fā),，楊杰被任命為南路軍總參謀長(zhǎng),，具體負(fù)責(zé)對(duì)馮部作戰(zhàn)。10月，馮系將領(lǐng)宋哲元等通電反蔣,，并率部東出潼關(guān),，對(duì)蔣軍發(fā)起強(qiáng)大攻勢(shì)，使蔣軍的整個(gè)戰(zhàn)局告急:登封不守,，密縣將陷,，臨汝城被圍。在此關(guān)頭,，楊杰決定,，以一部阻止馮軍，封鎖臨汝城之咽喉,，一部側(cè)擊登封,，以解臨汝城之圍。在楊杰的指揮下,，蔣軍一舉擊潰馮軍,，扭轉(zhuǎn)了整個(gè)戰(zhàn)局。11月,，馮軍退回陜西,。

1930年5月至10月，中國(guó)現(xiàn)代史上規(guī)模最大的軍閥混戰(zhàn)——中原大戰(zhàn)爆發(fā),。戰(zhàn)爭(zhēng)的一方是蔣介石的軍隊(duì),，另一方是閻錫山、馮玉祥和李宗仁,、李濟(jì)深的聯(lián)軍,。在這場(chǎng)戰(zhàn)爭(zhēng)中，楊杰多次為蔣介石立下大功,。

有一段時(shí)間,，蔣、馮,、閻三支軍隊(duì)曾膠著于隴海路中段鄭州——開(kāi)封——蘭封——考城一線,。蔣介石無(wú)法挽回劣勢(shì)，心急如焚,，多次電邀時(shí)任第二炮兵集團(tuán)指揮官的楊杰南下問(wèn)計(jì),。楊杰南下后，隴海線吃緊,，雙方混戰(zhàn)正急,。蔣介石總部駐扎柳河車(chē)站，大部分軍隊(duì)已派往第一線,，留在身邊僅一個(gè)特務(wù)營(yíng),。此時(shí),，偵察機(jī)突然來(lái)電:“敵軍一個(gè)騎兵大集團(tuán)正在向車(chē)站急進(jìn)?！笔Y介石頓時(shí)十分驚慌,，因?yàn)楦緹o(wú)法調(diào)回軍隊(duì)支援，以己方一個(gè)營(yíng)的兵力對(duì)付一個(gè)騎兵大集團(tuán),，無(wú)異于以卵擊石,。他急忙問(wèn)計(jì)于楊杰。楊杰急中生智,，說(shuō):“現(xiàn)在情況緊急,，我沒(méi)有時(shí)間解釋?zhuān)憧梢粤⒓锤嬖V站上，將列車(chē)的兩頭各安一個(gè)車(chē)頭,。”蔣介石馬上又照辦,。這樣,，當(dāng)敵軍大舉進(jìn)攻車(chē)站的時(shí)候，楊杰令列車(chē)向北急駛,，等開(kāi)出二三十里地后,，馬上又向南急駛。敵軍被吸引跟著列車(chē)跑來(lái)跑去,，很快筋疲力盡,。對(duì)方指揮官見(jiàn)這樣不是辦法，于是改變行軍路線,，派兵去燒附近的機(jī)場(chǎng),。楊杰了解到:此前，空軍有些轟炸機(jī)因找不到目標(biāo),，沒(méi)有投彈,，剛剛返回機(jī)場(chǎng)。按當(dāng)時(shí)規(guī)定,，如重磅炸彈未使用完,，不得留在機(jī)場(chǎng)降落，以免發(fā)生爆炸?，F(xiàn)在事態(tài)緊急,，楊杰當(dāng)機(jī)立斷，下令飛機(jī)馬上降落機(jī)場(chǎng),，但不準(zhǔn)卸下炸彈,。如此一來(lái)，敵軍火燒機(jī)場(chǎng)時(shí),，重型炸彈先后爆破,，震耳欲聾。敵軍以為中了埋伏，趕緊撤退,。楊杰抓住機(jī)會(huì)下令特務(wù)營(yíng)乘機(jī)沖出,，迅速打退了敵騎兵集團(tuán)。蔣軍此次以少勝多,，多虧了楊杰的指揮,。蔣介石事后對(duì)楊杰說(shuō):“耿光！不是你在此,，我們一定當(dāng)了俘虜了,。”