Berawal dari dua rumah sumbangan Ibu Ning Bob Said yang kemudian menjadi sebuah mushalla di tahun 1970. Di tempat itu Ibu Hj. Nafisah (putri bapak Abubakar Ahmad Baktir) dan dibantu seorang guru mengajar tujuh siswa. Tempat inilah yang kemudian menjadi Taman Kanak-Kanak Al-Furqan.
Dua tahun setelah itu, berdiri Sekolah Dasar Al-Furqan. Jumlah murid pertama sebanyak 13 anak dan sebagai Kepala Sekolahnya ibu Alm. Dra. Aisyah Salim
Bertolak dari kondisi tersebut yayasan berupaya untuk meminjam bangunan berupa rumah di jalan Untung Suropati (POM bensin Jl. A Yani) yang kemudian berpindah di jalan Dewi Sartika depan SMPN 1 setelah bangunan semula diminta kembali oleh pemiliknya. Namun berkat kegigihan pengurus yayasan, alhamdulillah pada tanggal 14 Juni 1978 berhasil menempati gedung sendiri yang berupa 6 ruang kelas, 1 ruang kantor, 1 ruang koperasi, 1 ruang perpustakaan serta dilengkapi dengan 7 kamar mandi.