清光緒三年（1877年），張小林出生浙江慈溪縣。

清光緒一十三年（1887年），張小林移居杭州。

清光緒一十六年（1890年），張父過世后，13歲的張小林不再上私塾，而是找工作開始混社會?？墒且贿吂ぷ?，一邊依舊是偷賭惡習(xí)不改。當(dāng)時張家所在的杭州拱宸橋一帶工商業(yè)發(fā)達(dá)，是張小林坑蒙拐騙外地商客的“風(fēng)水寶地”。

清光緒二十九年（1903年），26歲的張小林心機(jī)一轉(zhuǎn)，決定去報考在杭州的浙江武備學(xué)堂。他還真被錄取了，并與同在學(xué)堂學(xué)習(xí)的張載陽等人成為好朋友。然而對張小林而言，武備學(xué)堂的諸多規(guī)矩簡直就是如來給孫悟空的緊箍咒，實在叫他受不了。單戒賭戒色這兩條，就叫他活不下去。張小林熬了兩年不到，不得不自動請辭。

離開學(xué)堂后，張小林找到杭州府衙門領(lǐng)班、也是慈溪人的李休堂，希望在他那里混日子。李休堂很樂意就接受了他，因為張小林這個混混在當(dāng)?shù)匾呀?jīng)很有名氣了，對衙門維持社會秩序及辦案很有幫助。

衙門領(lǐng)班在官制上屬于吏，并非國