楊樹元15歲時，參加縣貧農(nóng)協(xié)會和赤衛(wèi)隊，任赤衛(wèi)隊長。

1930年2月參加中國工農(nóng)紅軍。

1932年3月加入中國共產(chǎn)黨。歷任陜北綏德紅五支隊班長、排長、代理隊長等職。

1935年參加過直羅鎮(zhèn)（在今富縣）戰(zhàn)役。1936年在紅二十八軍任營長，參加過“東征”（到山西）。后又隨軍西征，參加了解放清邊、定邊、鹽池等戰(zhàn)斗。

抗日戰(zhàn)爭爆發(fā)后，楊樹元任八路軍一二○師三五八旅七一六團(tuán)連長，在山西寧武、雁北地區(qū)組織抗日武裝，開展游擊戰(zhàn)爭。

1940年參加了百團(tuán)大戰(zhàn)。同年11月到1941年任抗日軍政大學(xué)二分校參訓(xùn)隊隊長，和二分校所屬抗三團(tuán)三大隊一中隊隊長。同年2月，任冀東軍區(qū)十六軍分區(qū)十二團(tuán)一營營長兼團(tuán)副參謀長。

1943年4月，在熱河省青龍縣的臥龍崗戰(zhàn)斗中，他率一營部分戰(zhàn)士，殲滅偽滿一個營，俘敵百余名。后任冀東軍區(qū)十八軍分區(qū)第十一團(tuán)團(tuán)長。9月，率團(tuán)進(jìn)入沈陽，任東北人民自治軍第十六軍分區(qū)第二十一旅旅長。用兩個月時間，清剿了敵偽