劉春霖幼時(shí)在老家河北肅寧縣北石寶村讀私塾，深知農(nóng)村兒童讀書之不易。所以，他高中狀元之后，不在老家修狀元府光耀門庭，而在北石寶村修建了一所小學(xué)堂，學(xué)堂的房屋、桌椅、教具，均由劉春霖出資捐助。他在學(xué)堂門口題有“鑄才爐”匾額一方，并立有石碑，刻有他作的《勸學(xué)篇》一文。這所北石寶小學(xué)堂是肅寧縣唯一的“義學(xué)”。
劉春霖關(guān)心鄉(xiāng)梓教育，不僅慷慨解囊，而且盡心盡力。有一年，肅寧縣建立“師資講學(xué)所”和“高級(jí)小學(xué)堂”，劉春霖的入室弟子、校長(zhǎng)吳友梅(清朝末科秀才)，特請(qǐng)劉春霖為學(xué)堂書寫抱柱對(duì)聯(lián)，劉春霖大筆一揮，寫下“天開(kāi)新學(xué)界，地 古遺風(fēng)�！�10個(gè)大字。同時(shí)，吳友梅又請(qǐng)劉春霖為學(xué)堂編寫校歌，劉春霖亦欣然應(yīng)允。那校歌歌詞是：
“地 古遺風(fēng)，毛公設(shè)帳，董相傳經(jīng)。荊軻故里，武垣城。儒文俠武，燕趙遺風(fēng)。莘莘學(xué)子，負(fù)笈來(lái)從，普被時(shí)雨并春風(fēng)。春風(fēng)暖，雨露濃，高門桃李及時(shí)榮�！�
毛公，指漢時(shí)毛萇，以傳講“詩(shī)經(jīng)”聞名，曾在肅寧設(shè)帳授徒。董相，指董仲舒，曾在肅寧講學(xué)。荊軻系刺秦壯士，相傳曾在肅寧境內(nèi)，該縣有荊軻村。武垣城，漢時(shí)建，在肅寧城南。劉春霖在歌詞里運(yùn)用這些典故，說(shuō)明肅寧自古以來(lái)便文風(fēng)很盛，以此激勵(lì)家鄉(xiāng)人努力學(xué)習(xí)。
劉春霖不僅在家鄉(xiāng)興學(xué)，而且把教育擴(kuò)展到京城。他在北京居住多年，結(jié)識(shí)了旅居北京的許多河北籍知名人士，辛亥以后在北京建了一所“燕冀中學(xué)”，供同鄉(xiāng)在京子女們學(xué)習(xí)。這所中學(xué)分男、女兩校，男校在外城廣安門大街，女校在內(nèi)城西什庫(kù)后庫(kù)。劉春霖為建校捐款贈(zèng)書，并在“燕冀中學(xué)”董事會(huì)董事。時(shí)間不長(zhǎng)，這所中學(xué)在京有了名氣，規(guī)模日益擴(kuò)大。學(xué)生來(lái)源不僅僅限于河北一省，也招收各省市的學(xué)生。當(dāng)時(shí)的女校，成為北京市有名的私立學(xué)校之一。劉春霖與當(dāng)年著名抗日將領(lǐng)宋哲元將軍交誼很深。劉春霖向宋哲元建議創(chuàng)辦一所學(xué)校，以教育、培養(yǎng)青年。宋哲元接受了劉春霖的建議，便很快籌建了“明軒中學(xué)”(宋哲元字明軒)。嗣后，該校成立董事會(huì)，宋哲元為名譽(yù)董事，劉春霖為董事，并捐贈(zèng)圖書，使學(xué)校建起了圖書館。
據(jù)聞，當(dāng)年劉春霖在肅寧縣北石寶村學(xué)堂立的那塊刻有《勸學(xué)篇》的石碑，迄今仍存。
