בן יהודית ואהרון. יוסף נולד בניו יורק, ארצות הברית ביום ט' בניסן תרע"א (7.4.1911). אח לעטרה.

המשפחה עלתה לארץ ישראל ב-1913. הם התיישבו במושבה פתח תקווה, שם התפרנסו מחקלאות.

יוסף למד בבית הספר היסודי "פיק"א" ובגימנסיה "אחד העם" במושבה. כמו כן, השלים לימודי חקלאות ב"מקווה ישראל" בחולון. בנעוריו היה פעיל בתנועת "הצופים". עם הקמת "מכבי אבשלום" במושבה היה בין הספורטאים הפעילים בענפים: כדורגל, כדור-יד ואתלטיקה. לימים הוא התמנה למנהל קבוצת הכדור-יד המקומית.

עם גמר לימודיו החל יוסף לעבוד בפרדסנות, ענף שהתפתח מאוד בפתח תקווה.

עם התארגנות "המשטרה הזמנית" הצטרף אליה יוסף. הוא שימש כנוטר מ-1941, אחר כך היה איש משטרת היישובים העבריים במסגרת הסוכנות היהודית, בין היתר בתחנת בית שאן. כן היה פעיל ב"הגנה".

יוסף נשא לאישה את אסתר, לבני הזוג נולדו שני בנים – דרור ואבשלום.

יוסף התגייס לצה"ל במלחמת העצמאות. תחילה שירת במשטרה הצבאית, שכן היה בעל ניסיון רב בכלי נשק, הפעלה והדרכה. בהמשך צורף לחטיבה 8, חטיבת השריון בפיקודו של יצחק שדה, ממנה השתחרר בדרגת סרן בסיום המלחמה.

בשנת 1949, סמוך לתום מלחמת העצמאות, הצטרף יוסף לשירות הביטחון הכללי ושימש כרכז אזור במחלקה הערבית. לאחר מכן קודם לתפקיד רכז בכיר.

לאחר תקופה ממושכת של עבודת שטח, ומשנישאו שני בניו והקימו משפחות, הושאל יוסף למשרד החוץ ויצא עם אשתו לשליחויות בחו"ל. הוא שירת בשגרירויות בקפריסין, בבולגריה ובפינלנד.

בשנת 1974 חזר יוסף ארצה והתמנה לקצין הביטחון של ועדת אגרנט, אשר בדקה את אירועי מלחמת יום הכיפורים. זמן קצר לאחר מכן הוא חלה, כתוצאה מתאונת עבודה שקרתה בחו"ל.

יוסף נפטר אחרי מחלה ביום כ"ז בניסן תשל"ד (18.4.1974). בן שישים ושלוש בנפלו. הוא הובא למנוחות בבית העלמין סגולה בפתח תקווה. הניח אישה, שני בנים, נכדים ואחות.