在抗戰(zhàn)時期,，他還是八路軍129師386旅補(bǔ)充團(tuán)的一名營長,。

有一次夜里，陳賡的部隊(duì)遭日軍偷襲,。

當(dāng)時,，他們被日軍火力壓制在一處洼地，無法突圍,，情況十分危急,。

不知是上天有意，還是巧合,。當(dāng)他得知被困的是陳賡旅長之后,，他立馬扛著輕機(jī)槍帶著隊(duì)伍就趕了過去，把敵人的火力給壓制住后,，殺出一條血路,，解了陳賡的圍。

對于他在臨戰(zhàn)狀態(tài)下勇猛不缺機(jī)智的表現(xiàn)，陳賡是十分欣賞的,。所以不久,，陳旅長就和許世友副旅長找他談話，決定讓他去擔(dān)任772團(tuán)副團(tuán)長,，但上任之前有個條件,，必須先擔(dān)任特務(wù)隊(duì)隊(duì)長，主要任務(wù)：一是除漢奸,；二是搞軍需,，以備過冬所需。

772團(tuán)是八路軍的主力團(tuán),，團(tuán)長先是葉成煥,，葉成煥犧牲后王才貴擔(dān)任。這個團(tuán)的副團(tuán)長更是有名,，他是鼎鼎大名的戰(zhàn)將王近山,。因此，讓他進(jìn)入八路軍的主力團(tuán)并擔(dān)任副團(tuán)長,，這點(diǎn)考驗(yàn)是必須的,。

之后，他便組織一幫各懷絕技的江湖好漢,，組成的一支特務(wù)隊(duì),，神出鬼沒地出現(xiàn)在日軍占據(jù)的縣城，用了一個晚上時間就把維持會的漢奸狗腿子殺了個痛快,，最讓人拍案叫絕的是他們在殺了漢奸之后,，居然還在他們的尸首上放一張寫有隊(duì)長某某某的紙條。

這個某某某隊(duì)長的名字就叫查玉升,。

查玉升是安徽六安人,，1914年生。因家境貧寒,，童年時給地主放過牛,，要過飯，正因?yàn)樨毨o助,，紅軍鬧革命后,，17歲就參加了紅四方面軍，成了紅軍的一名小戰(zhàn)士,。也正因?yàn)樗麖男〕宰憧囝^，到紅軍隊(duì)伍中知道了紅軍是為窮人打江山的隊(duì)伍之后,，在作戰(zhàn)時表現(xiàn)的勇猛無比,，三年左右時間就從戰(zhàn)士到班長到排長到交通隊(duì)指導(dǎo)員。后來，參加了紅四方面軍的長征,。

抗戰(zhàn)全面爆發(fā)后,，查玉升先后任八路軍129師386旅722團(tuán)連長，補(bǔ)充團(tuán)營長,，百團(tuán)大戰(zhàn)時正式接任王近山成為722團(tuán)副團(tuán)長,。

1940年11月24日，386旅第16團(tuán)團(tuán)長謝家慶在圍殲日軍的戰(zhàn)斗中中彈犧牲,。查玉升調(diào)任16團(tuán)團(tuán)長,。

查玉升打仗有與王近山同樣的作風(fēng)，他對上級安排的戰(zhàn)斗,，積極參戰(zhàn),；對上級未安排的戰(zhàn)斗，他是主動請纓求戰(zhàn),。

解放戰(zhàn)爭期間,，查玉升任陳賡所部4縱22旅旅長。當(dāng)時,，按照中央指令要把他的22旅調(diào)到東北,，但查旅長不愿意，就以“黃河水漲無法返回”為由,，率部與中原地區(qū)的兄弟部隊(duì)打出了幾個漂亮仗,，成為陳賡麾下的“四縱四虎”，讓陳賡司令員哭笑不得,。

說到陳賡麾下的“四虎”,，他們分別是為10旅的周希漢、11旅的李成芳,、13旅的陳康和22旅的查玉升,。但到了授軍銜時，除查玉升之外,，其他“三虎”都授了中將,，而只有他授少將，雖然遺憾,，但究其原因是后來在參加抗美援朝時的那一仗沒有打好,。

1998年10月23日，年已84歲的查玉升將軍去世,，當(dāng)子女們在整理骨灰時竟發(fā)現(xiàn)有13塊彈片,，在場人員對此無不感動和震驚，無不感嘆查老將軍是一位有著鋼鐵般地意志的人,，不然怎么能讓這13塊彈片伴隨他大半個人生,？