黃國(guó)書(shū)是臺(tái)灣地區(qū)客家人，生于1907年。從小就在家鄉(xiāng)目睹日本殖民者肆意欺壓同胞的黃國(guó)書(shū)在20歲不到便偷渡回到了大陸，輾轉(zhuǎn)作為中國(guó)留學(xué)生進(jìn)入日本士官學(xué)校第19期炮兵科學(xué)習(xí)，并以第一名畢業(yè)，獲“軍刀獎(jiǎng)”。從日本軍校畢業(yè)后，黃國(guó)書(shū)回大陸參加了中國(guó)軍隊(duì)，蔣介石安排他在黃埔軍校軍官團(tuán)和炮兵學(xué)校等處任職。

1934年，黃國(guó)書(shū)被派往德國(guó)炮兵學(xué)校深造，在校期間他努力鉆研機(jī)械化炮兵戰(zhàn)術(shù)。時(shí)間一長(zhǎng)，黃國(guó)書(shū)精深的炮兵戰(zhàn)術(shù)造詣在德國(guó)國(guó)防軍中流傳開(kāi)來(lái)。畢業(yè)時(shí)，希特勒親自贈(zèng)與黃國(guó)書(shū)德式軍刀一把，并希望他能考慮在德國(guó)炮兵學(xué)校里任教幾年再回中國(guó)，為此，德國(guó)戰(zhàn)爭(zhēng)部長(zhǎng)維爾納·馮·勃洛姆堡表示可以破例授予這個(gè)中國(guó)留學(xué)生德國(guó)陸軍上尉軍銜。但當(dāng)時(shí)，日本對(duì)中國(guó)步步進(jìn)逼，黃國(guó)書(shū)最終放棄了在德國(guó)的“發(fā)展機(jī)會(huì)”，毅然回國(guó)參加抗戰(zhàn)。

回國(guó)不久，全面抗戰(zhàn)爆發(fā)，黃國(guó)書(shū)被任命為炮兵第9團(tuán)上校團(tuán)長(zhǎng)，指揮當(dāng)時(shí)中國(guó)為數(shù)不多的炮兵部隊(duì)與日軍作戰(zhàn)，讓日軍精銳板垣