Sekolah ini merupakan salah sebuah sekolah yang tertua dan terawal di tubuhkan di kawasan ini. Banjir besar yang melanda pada tahun 1967 telah memusnahkan sebilangan besar dokumen-dokumen berharga di sekolah ini, termasuklah catatan-catatan penting berkenaan sejarah penubuhan sekolah ini sendiri. Oleh yang demikian, sejarah sekolah yang tertulis di sini adalah hasil himpunan maklumat yang didapati daripada ingatan orang-orang yang masih lagi mengingati sejarahnya.

Pendidikan Sebelum Perang

Detik permulaan pendidikan adalah seawal sebelum Perang dunia Kedua di Ladang Chaning iaitu kira-kira 1.5 kilometer dari Kampung Pahi. Bangunannya hanyalah sebuah bangsal kecil. Bilangan murid pada masa tersebut adalah seramai 14 orang sahaja. Sekolah ini terpaksa ditutup apabila Perang Dunia Kedua berlaku.

Pendidikan Selepas Perang

Pada awal 1948, “Sekolah Melayu Rakyat Pahi” telah dibuka oleh Abdul Ghani b. Adnan; seorang imam pada masa itu. Beliau telah mempelopori perubahan dan kesedaran bahawa pentingnya pendidikan untuk mengubah nasib orang-orang kampung. Beliau telah menggunakan rumahnya sendiri sebagai bangunan sekolah sementara. Sistem persekolahannya pula tidak begitu teratur disebabkan oleh kekurangan sumber kewangan dan prasarana. Hanya berbekalkan keazaman dan semangat yang jitu, beliau bersama Abdullah b. Hj. Ibrahim telah bergilir-gilir mengajar. Bilangan murid pada masa tersebut hanyalah seramai 20 orang sahaja.

Bertitik tolak daripada permintaan dan pertambahan murid dari tahun ke tahun, pihak ladang dan masyarakat Pahi bersetuju menangani masalah prasarana sekolah bersama-sama pada tahun 1952.

Kerajaan akhirnya membiayai pentadbiran sekolah dan pembangunannya bermula pada tahun 1953.