Penubuhan sekolah di kawasan ini telah dicadangkan oleh Tuai Rumah Ijau ak Guyang pada tahun 1954 kepada pihak penguasa tempatan. Setelah mendapat persetujuan pihak penguasa tempatan, pondok untuk memulakan sekolah mulai dibina pada tahun 1959 menggunakan bahan binaan tempatan iaitu kayu untuk rangka, kulit kayu untuk dinding, buluh untuk lantai dan daun rumbia digunakan sebagai atap. Dua buah bilik darjah dan dua unit pondok guru telah dibina oleh penduduk rumah panjang secara bergotong-royong.
Pada 1 Januari 1960, sekolah ini mulai beroperasi dan diberi nama “LocalAuthorityCouncilPrimary School, Nanga Ngungun, Sungai Ngemah Kanowit”. Pada masa ini hanya terdapat 65 orang murid dan 2 orang guru. Pada tahun 1964, pihak penguasa tempatan iaitu Kanowit Local Authority telah membina sebuah rumah guru (2 unit) dan sebuah blok bilik darjah. Kemudian, pada tahun berikutnya sebuah lagi rumah guru (2 unit) dibina kerana guru bertambah. Pada tahun 1973, Local Authority membina sebuah blok bilik darjah yang mempunyai 2 buah bilik darjah kerana jumlah murid yang bertambah akibat penempatan semula penduduk di kawasan ini. Pada tahun 1978, kerajaan telah membina 2 buah rumah guru (kelas 4), sebuah blok bilik darjah (3 buah kelas), sebuah blok asrama (2 buah bilik), dapur asrama dan tandas.
Pada tahun 1985, sebuah blok bilik darjah (2 buah kelas) telah dibina secara gotong royong oleh penduduk tempatan. Sebaik sahaja pentadbiran sekolah diserahkan oleh ‘Local Authority’ kepada Jabatan Pelajaran pada tahun 1985, sekolah ini diberi nama baru iaitu, SRK Nanga Ngungun, Kanowit. Pada akhir tahun 1985, sebuah lagi blok bilik darjah (2 buah kelas) dibina dibahagian hujung kelas tersebut. Pada tahun 1986, sebuah lagi blok bilik darjah (2 buah kelas) dibina secara gotong – royong. Pada tahun yang sama rumah untuk warden dan tukang masak dibina berdekatan dengan blok asrama. Pada tahun 1987, blok bilik darjah ini disambung secara bergotong-royong kemudian blok ini diubah suai untuk 4 buah kelas sub- standard. Pada masa yang sama, blok bilik darjah (3 buah kelas yang dibina pada tahun 1978) juga disambung untuk bilik guru dan Pejabat Guru Besar.
Kemudahan bekalan elektrik SESCO mulai dinikmati di sekolah ini pada tahun 1991 dan beroperasi selama 12 jam iaitu mulai 6:30 petang hingga 6:30 pagi. Sebagai memenuhi keperluan guru, Jabatan telah membina sebuah rumah guru (2 unit) pada tahun 1993. Pada 11 April 1996, bangunan pentadbiran dan 14 unit berek kediaman RASCOM diserahkan kepada pihak sekolah sebagai kemudahan tambahan di sekolah ini. Pada pertengahan tahun 1996, penghuni asrama pula dipindahkan ke bilik darjah yang dibina secara bergotong – royong pada tahun 1985. Kini, 3 buah bilik darjah ini telah dijadikan sebagai bilik tidur penghuni asrama iaitu 2 buah bilik untuk murid perempuan dan sebuah bilik untuk murid lelaki. Tempat tidur murid lelaki dibuat bertingkat untuk menjimatkan ruang. Blok asrama (2 buah bilik) yang dibina pada tahun 1978 terpaksa dikosongkan untuk menjamin keselamatan murid kerana bumbung bangunan ini berdekatan dengan pokok – pokok durian. Pada masa ini blok asrama ini diubahsuai untuk Bilik Perpustakaan dan Bilik Sains.
Pada tahun 2002 dua buah kediaman guru (2 unit setiap satu) siap dibina oleh SEBIRO dan pada akhir tahun 2002, bangunan berasingan Pra Sekolah siap dibina dan pendidikan Pra Sekolah dimulakan di sekolah ini pada tahun 2003. Pada tahun yang sama, Dewan Makan, Dapur dan Stor Sukan dibina untuk kemudahan di sekolah ini. Pada tahun 2004, tandas murid (Lelaki dan Perempuan) yang lebih baik dibina untuk menggantikan tandas lama yang bersebelahan dengannya. Pada tahun 2005, SK Nanga Ngungun menggunakan sebelas buah bilik darjah. Pada tahun 2007 sekolah mempunyai kemudahan Internet walaupun bekalan elektrik selama 18 jam iaitu mulai 2:00 petang hingga 8:00 pagi. Pada akhir tahun 2007 pula, pembinaan asrama baru dimulakan.
