Pada tahap awal memimpin, Gubernur membangun mesjid. Selanjutnya membangun istana dan baitul mal yang kedudukannnya menghadap arah mihrab mesjid. Kemudian ada juga dibangun istana di dekat pasar, tapi suara ribut dan bising mengganggu sang gubernur ketika berbicara, sehingga Sa'ad menutup pintu istana seraya berkata, "begini baru bisa hening."
Kalimat tersebut ternyata sampai ketelinga sayyidina Umar yang membuatnya mengirim utusan pada Geburnur Irak di Kota Kuffah. Sayyidina Umar memerintahkan utusannya untuk mengumpulkan kayu bakar didepan pintu istana Gubernur, jika sudah tiba di kuffah dan membakarnya. Semua itu dilakukan, kemudian utusan Khalifah mengingatkan agar Gubernur agar tidak lagi menutup pintu istana bagi rakyat dan jangan menempatkan para penjaga yang melarang rakyat menemuinya.
Khalifah Umar sangat melarang para Gubernurnya membuat jarak dengan rakyat. Tugas melayani harus diberikan secara adil dan solutif secara tepat, tanpa melihat status sosial yang disandang oleh rakyat.
Kisah fenomenal lain tentang penggusuran gubuk milik lelaki tua yahudi oleh Gebernur Mesir, Amr bin Ash. Gebernur meminta agar lelaki itu bersedia pindah dengan sejumlah bayaran yang diberikan. Tujuan pergusuran gubuk untuk keperluan pembangunan mesjid yang megah agar setara dengan istananya.
Lelaki yahudi yang sudah tua dan tinggal sebatang kara, tidak menyahuti keinginan Amr bin Ash. Meskipun dijanjikan bayaran dalam jumlah besar. Tetap bersikukuh untuk tidak menjual tanah beserta bangunan gubuk miliknya. Akhirnya Amr bin Ash secara sepihak menggusur bangunan tersebut. Lelaki tua itu hanya bisa pasrah terhadap perlakuan sang gubernur, sebab terbatasnya tenaga dan kekuasaan yang dimilikinya.
Kejadian itu menyebabkan lelaki tua yahudi bertekad menuju Madinah, pusat kekhalifahan Islam. Mengadukan nasibnya kepada khalifah Umar bin Khattab. Menceritakan beratnya perjuangan dalam mendirikan gubuknya, tapi dengan mudahnya Gubernur Mesir menggusurnya. Mendengar pernyataan itu, sayyidina Umar sangat marah.
Kemarahanan sayyidina Umar diikuti dengan pemberian sepotong tulang, bentuk hukuman yang diberikan kepada Amru bin ash, agar membangun kembali gubuk yang telah tergusur. Mesjid yang sedang dibangun diminta agar segera diruntuhkan. Lelaki tua itu mencegahnya dengan wajah penasaran, "sebentar tuan, mengapa engkau ingin merobohkan mesjid itu gara-gara sepotong tulang?"