Masjid yang keberadaanya terletak di RT 06/02 Kelurahan Cilenggang, Serpong ini memang tidak banyak diketahui  oleh masyarakat luas, letaknya yang berada persis di tengah perkampungan warga tak menghilangkan kesan sakral dan bersejarahnya masjid tersebut.

Masjid Al-Ikhlas berdiri atas pakarsa Raden Muhammad Atief (Tubagus Atief) yang merupakan salah satu Panglima Perang Kesultanan Banten pada waktu itu.

Saat itu Tubagus Atief ditugaskan Ayahandanya Sultan Ageng Tirtayasa untuk membantu masyarakat Tangerang melawan penjajahan Belanda sekaligus menyiarkan agama Islam. Atas Jasanya  kepada masyarakat Cilenggang,Serpong saat itu masyarakat kemudian menikahkan Raden Muhammad Atief (Tubagus Atief) dengan Siti Almiyah wanita asli Desa Cilenggang  dengan mas kawinnya Masjid Jami Al Ikhlas (dahulu disebut Surau atau Tajug) yang sekarang masih berdiri.

Tubagus Atief sendiri wafat dan dimakamkan di Pemakamam Kramat Tajug, Serpong tak jauh dari lokasi masjid ini berdiri