Desain Masjid Apung melambangkan perjalanan agama Islam di Jakarta. Memiliki banyak bentuk bangunan yang menjadi simbol sejarah.
Kiblat dan seluruh bangunan dirancang menghadap ke laut lepas. Sirkulasi udara dibuat terbuka agar hamparan angin laut menjadi penyejuk alami.