Tahap pertama pembangunan memakan waktu selama dua tahun untuk diselesaikan. Bangunan sederhana itu terbuat dari batu bata dan batu berukuran panjang 11,3 meter dan lebar 7,6 meter beserta tinggi sekira 5,5 meter. Hadji Mullah menjadi penjaga pertama di masjid tersebut. Ia dan istrinya tinggal di pondok yang terletak di halaman masjid.
Pondok-pondok yang berdekatan memberi perlindungan dan akomodasi bagi unta-unta. Empat menara ditambahkan ke masjid pada 1903. Pada tahun-tahun berikutnya karena jumlah penggembala unta berkurang dan banyak yang kembali ke negara asal mereka, Masjid Adelaide mengalami kerusakan. Namun imigran dari Eropa dan Indonesia kembali mengisi populasi muslim di sana setelah Perang Dunia II.