צילום: מכון המאורות
המנוח זכה להקים את בית המדרש “עץ יוסף” בקרית משה בירושלים, ועמל רבות על ביסוסו והצלחתו ימים כלילות. וכפי שסיפר בנו יבדל לחיים ארוכים, כי בזמן בניית בית הכנסת היינו גרים בצפיפות ורצינו שאבינו ז”ל ירכוש דירה רחבה יותר. אך אבי זצ”ל סירב לכך בכל תוקף, באומרו: כל עוד שלא נבנה בית ה’ כראוי, אינני מסוגל לרכוש דירה לעצמי.
נעים זמירות ישראל היה המנוח ר’ יוסף. מכריו מספרים לאתר ‘המאורות’ כי רבות פעל ר’ יוסף להנצחת מסורת השירה התימנית, אשר כידוע הייתה כל כולה קודש קודשים, והייתה מושרת בחיל ורעדה אך ורק על ידי זקני רבני העדה בדמעות שליש. והמנוח – כמסורת ראש משפחתו, אביו הגדול זצ”ל, אשר היה ראש המשוררים והרבנים, זכה להנציח שירים ונעימות רבות בערבי שירת קודש על פי שירותיו של המקובל האלוקי רבינו שלום שבזי זיע”א.
כן פעל בכל כוחו להצלחת קהילות תימן בעיר ירושלים, בתוקף תפקידו כגזבר ואחראי הועד הכללי לקהילות התימנים בירושלים בראשות יבדל לחיים הרב שלמה שרעבי הי”ו. מלבד זאת, היה מלמד תינוקות של בית רבן והיה מחדיר בהם אמונה ויראת שמים.