Pada 1981, tepat di usia 17 tahun, Habib Umar pindah ke Kota Al Bayda. Habib Umar pindah dikarenakan kekacauan Tarim akibat persekusi kepada para ulama.
Ia kemudian menetap di Ribath Al Haddar dan berguru kepada Habib Muhammad bin Abdullah Al-Haddar dan Habib Zain bin Ibrahim bin Sumaith.
Habib Umar pun mulai berdakwah dan mengajar di sekitar Kota Al Bayda, Hudaydah, dan Ta'izz. Di Kota Ta'izz inilah Habib Umar berguru kepada Al 'Allamah Al Musnid Ibrahim bin Umar bin 'Aqil.
Pada 1992, Habib Umar pindah ke Kota Al Shihr dan mengajar di Ribath Shihr. Al Shir merupakan ibu kota Provinsi Handramaut yang terletak di Yaman Timur.
Pada 1994, ia memutuskan kembali ke kota kelahirannya yaitu Tarim. Habib Umar mulai merintis Pondok Pesantren Darul Mustafa yang kemudian diresmikan pada 6 Mei 1997.