Sejarah sekolah-sekolah Convent di Malaysia bermula apabila, Father Nichols Baree, pengasas Institution of Holy Infant Sotteville, Perancis, berpegang kepada wawasan beliau untuk memberi pelajaran kepada kanak-kanak dan rahib-rahib yang berada di Malaya dengan menubuhkan Convent di Malaya. Malacca Convent telah dibuka pada tahun 1959. Sejarah Sekolah Kebangsaan Convent Muar, adalah cawangan Convent di Melaka. Sekolah-sekolah yang didirikan oleh The Holly Infant Jesus diseluruh dunia menggunakana nama Convent. 

Sebelum tahun 1933, Ibu bapa di Muar yang hendakkan anak mereka belajar dalam aliran Inggeris terpaksa menghantar anak mereka ke Infant Jesus Malacca. Menyedari kesulitan yang dihadapi oleh ibu bapa, Rev. Mother John bersama-sama Rev. Mother Martha dan Rev. Mother Therese Thedore membuka cawangan Holly Infant Jesus Convent Muar pada Januari 1933. Bangunan sekolah ini disewa dan terletak di Jalan Ali, Muar. 

Sekolah ini bermula dengan seramai 50 orang pelajar, Rev. Mother Martha dilantik sebagai Guru Besar dan Rev. Mother Threse sebagai Penolong Guru Besar. Oleh kerana pertambahan pelajar, sekolah ini berpindah ke bangunan besar dan selesa terletak di 6, Jalan Abd Rahman pada 8 Jun 1933. Walau bagaimanapun, ia terpaksa ditutup kerana penjajahan Jepun. Sekolah hanya dibuka selepas perang tamat pada tahun 1946. Akhirnya tapak sekolah berpindah ke suatu tempat seluas 3 ekar, 2 rods, dan 37 pols di 100, Jalan Daud, Muar sehinggalah sekarang. Sekolah ini dirasmikan pada 4 November 1949 oleh Encik Holgate iaitu Pegawai Pendidikan Johor ketika itu.