桂永清回國(guó)后，又得到了蔣介石的重用。1932年3月，蔣介石在南京“勵(lì)志社”召開(kāi)“復(fù)興社”成立大會(huì)，桂永清當(dāng)選為中央干事，成為十三太保之一。蔣特定他為訓(xùn)練處處長(zhǎng)，讓他把留德所學(xué)用于培養(yǎng)訓(xùn)練各種效忠于蔣介石的干部和學(xué)員。1933年，桂永清被蔣任命為中央軍校教導(dǎo)總隊(duì)隊(duì)長(zhǎng)。

1937年7月7日，抗戰(zhàn)爆發(fā)，當(dāng)時(shí)正在英國(guó)參加英王加冕的桂永清聞?dòng)嵑蠹泵貒?guó)，率領(lǐng)他的教導(dǎo)總隊(duì)投入到淞滬會(huì)戰(zhàn)。此時(shí)，教導(dǎo)總隊(duì)已擁有步兵16個(gè)團(tuán)，騎、炮、工兵、通訊、汽車各一個(gè)團(tuán)，另有四個(gè)獨(dú)立營(yíng)，一個(gè)獨(dú)立連，官兵總數(shù)超過(guò)一個(gè)正規(guī)軍的編制。本來(lái)何應(yīng)欽上將決定調(diào)教導(dǎo)團(tuán)入川擴(kuò)編成為30個(gè)團(tuán)，作為第二期作戰(zhàn)主力，但桂永清卻要求立即參戰(zhàn)，在桂信誓旦旦的戰(zhàn)斗總動(dòng)員下，全體官兵也一直要求開(kāi)赴戰(zhàn)場(chǎng)，蔣介石于是將總隊(duì)3個(gè)團(tuán)調(diào)到湖南擴(kuò)建，總隊(duì)主力調(diào)入淞滬戰(zhàn)場(chǎng)。

1938年夏，蔣介石突然召見(jiàn)桂永清，要他組建第28軍，駐防鄭州。桂永清擔(dān)任第28軍軍長(zhǎng)，轄第36、第46、第106和炮兵共4個(gè)師，歸第一戰(zhàn)區(qū)司令長(zhǎng)官程潛節(jié)制。不久，桂永清奉命在河南蘭封、考城之間駐防，以阻日軍西進(jìn)。

當(dāng)?shù)?8軍軍部抵達(dá)羅王殿時(shí)，接到程潛來(lái)電：“日軍有一加強(qiáng)旅團(tuán)之?dāng)?，現(xiàn)已竄入蘭封城，你部現(xiàn)改為攻擊蘭封，將該敵殲滅?！惫鹩狼辶⒓疵畹?6師攻擊蘭封城東、北兩門(mén)，第46師攻擊蘭封城西、南兩門(mén)，第106師為預(yù)備隊(duì)，炮師掩護(hù)步兵攻城。此時(shí)，蔣介石來(lái)電，限定該軍在兩天之內(nèi)攻克蘭封，否則軍法從事。次日上午，桂永清指揮全軍發(fā)動(dòng)攻擊，遭到敵軍的頑強(qiáng)阻擊。下午5時(shí)，程潛來(lái)急電：“委員長(zhǎng)親臨鄭州指揮?！?時(shí)，接到蔣介石打來(lái)的電話，命令第28軍日內(nèi)攻克蘭封，逾時(shí)不克，唯軍長(zhǎng)是問(wèn)。桂永清當(dāng)即召開(kāi)師以上軍官緊急會(huì)議研究作戰(zhàn)方案，并限當(dāng)晚攻克蘭封。第3天，蔣介石一連數(shù)次打電話詢問(wèn)戰(zhàn)況。桂永清不敢待在軍部，親自到第一線督戰(zhàn)。這時(shí)，第46師第1旅旅長(zhǎng)李昌會(huì)負(fù)傷，第3旅旅長(zhǎng)馬威龍陣亡，第2旅旅長(zhǎng)李藹堂下落不明，桂永清趕到第46師，與師長(zhǎng)李良榮共同督戰(zhàn)。在戰(zhàn)斗中敵軍從南門(mén)突圍，向考城逃竄。當(dāng)蔣介石責(zé)問(wèn)時(shí)，桂永清說(shuō)：“此次攻戰(zhàn)，旅長(zhǎng)一死二傷，團(tuán)長(zhǎng)傷亡各二名.營(yíng)長(zhǎng)陣亡九名，連以下官兵傷亡五千余人，已竭盡全力，我在第一線督戰(zhàn)，仍未能完成殲敵之任務(wù)，有負(fù)校長(zhǎng)的使命，請(qǐng)予處分?！边@時(shí)，蔣介石命令他迅速撤退到鄭州以西待命。第28軍開(kāi)到開(kāi)封時(shí)，守軍商震部已經(jīng)撤走。他們撤到中牟時(shí)，國(guó)民黨空軍正在轟炸花園口的黃河大堤。桂永清到達(dá)洛陽(yáng)白馬寺時(shí)，接到蔣介石的電令：“28軍攻擊蘭封不力，軍長(zhǎng)桂永清撤職。36師師長(zhǎng)龍慕寒玩忽職守，攻城不力，而且放走敵人，著即送武漢處決(抗戰(zhàn)期間遭到處決的第一位蔣介石嫡系將領(lǐng))。46師師長(zhǎng)李良榮革職留任，戴罪立功。106師師長(zhǎng)沈克追擊不力，改任副軍長(zhǎng)?！钡诙?，蔣介石又來(lái)電：“桂永清仍回戰(zhàn)干團(tuán)任教育長(zhǎng)。

桂永清到武漢去見(jiàn)蔣介石，并未受苛責(zé)，但他為龍慕寒求情也未獲允，蔣只說(shuō)將第28軍交給胡宗南指揮，仍派桂永清任戰(zhàn)干團(tuán)教育長(zhǎng)。蔣介石這一次是真失望了，蘭封會(huì)戰(zhàn)中，蔣介石部署十倍于日軍的兵力圍殲土肥原部隊(duì)，本想取得一個(gè)抗戰(zhàn)以來(lái)的大勝利，以鼓舞士氣，但他沒(méi)想到中國(guó)十幾個(gè)師都沒(méi)能吃掉土肥原一個(gè)師團(tuán)，蔣介石稱為“千古笑柄”。自此以后，直到抗戰(zhàn)結(jié)束，桂永清再?zèng)]有真正地掌握過(guò)軍權(quán)