高克亭出生在縣城一個(gè)較為富裕的家庭。7歲入私塾，12歲升入府谷縣第一高級(jí)小學(xué)。讀書期間，開始追求真理，追求進(jìn)步，和趙傳等進(jìn)步學(xué)生一起，組織發(fā)起了驅(qū)逐反動(dòng)校長(zhǎng)的學(xué)生運(yùn)動(dòng)。此后，在新任校長(zhǎng)嚴(yán)念祖（又名嚴(yán)叔先，中共黨員）的幫助下，閱讀了大量進(jìn)步書籍，經(jīng)常和趙傳等進(jìn)步學(xué)生一起探討革命真理，參加集會(huì)和演講會(huì)，宣傳革命思想。高小畢業(yè)后，先后到榆林、太原等地一面求學(xué)，一面參加革命活動(dòng)。

1929年7月，在劉文蔚（建國(guó)后曾任中共陜西省委統(tǒng)戰(zhàn)部部長(zhǎng)）介紹下，加入中國(guó)共產(chǎn)黨。不久，受中共黨組織派遣，以到山西太谷縣銘賢中學(xué)（現(xiàn)山西農(nóng)業(yè)大學(xué)）求學(xué)為名，在銘賢中學(xué)秘密發(fā)展中共黨員，并任銘賢中學(xué)黨支部書記。

1931年初，受命出任山西省互濟(jì)會(huì)中共黨團(tuán)書記，從此開始了職業(yè)革命者的生涯。8月下旬，因叛徒出賣不幸被捕入獄。面對(duì)審訊和嚴(yán)刑拷打，他使終沒有泄露黨的機(jī)密，被判為無(wú)期徒刑。在獄中，參與黨支部的地下活動(dòng)，組織難友學(xué)習(xí)、宣傳