בן עליזה ואבנר. נולד ביום י"ט בחשוון תרצ"ה (28.10.1934), בעת שמשפחתו הייתה בדרך מאפגניסטן לארץ ישראל. גדל במשפחה גדולה ולו שישה אחים.

המשפחה התיישבה בתל אביב, בשכונת שפירא, שם יוסף גדל והתחנך.

משהגיע לגיל גיוס התגייס לצה"ל, לחיל המודיעין.

בעת שירותו נקלע לתאונת דרכים במהלך נסיעה מבצעית. הוא נפצע קשה, אחרי טיפול ושיקום ארוך נותר נכה ומרותק לכיסא גלגלים.

זמן מה אחרי שחרורו מצה"ל נשא יוסף לאישה את אסתר. בני הזוג הקימו בית ברמת השרון, שם גידלו את ילדיהם רונן ועליזה.

יוסף עבד בהרכבת קופסאות חשמל. לאחר מכן עבד בחברת ביטוח ומשנת 1980 ניהל תחנת דלק.

לאחר שחרורו מצה"ל החל יוסף בפעילות ספורט ב"בית הלוחם", מרכז לפעילות חברתית, ספורטיבית ושיקומית לנכי צה"ל ולמשפחותיהם. תחילה פנה לטניס שולחן, וכבר בקיץ 1956 השתתף במשחקים הפאראלימפיים (בשמם אז – אולימפיאדת המשותקים) באנגליה והגיע לחצי הגמר.

בשנים הבאות השתתף במשחקים רבים, בארץ ובחו"ל. הספורט העיקרי בו שלט היה טניס שולחן, לאורך השנים התחרה גם בכדורסל, בקליעה, בהדיפת כדור ברזל ובהטלת כידון.

יוסף היה ספורטאי מצטיין במגוון תחומים וזכה במדליות רבות לאורך השנים. הישגיו העיקריים – באולימפיאדה בטוקיו שביפן (1964) זכה במדליות ארד בטניס שולחן ובכדורסל כיסאות גלגלים, באולימפיאדה בתל אביב (1968) זכה בשתי מדליות ארד בטניס שולחן, ובאולימפיאדה בטורונטו שבקנדה (1976) זכה במדליית ארד בקליעה. במשחקים הפאראלימפיים בארנהם שבהולנד (1980) הגיע לרבע גמר בטניס שולחן, ולמקום רביעי בקליעה.

בתחילת שנות השמונים של המאה העשרים, בהיותו בן כחמישים, פרש יוסף מפעילות ספורטיבית תחרותית. בשנים הבאות בילה בחיק משפחתו וזכה לגדל נכדים. בשעות הפנאי אהב לקרוא עיתונים, לפתור תשבצים, והקדיש שעות לתחביבו - איסוף בולים.

בשנת 2015 נפטרה אסתר, רעייתו.

יוסף שרב נפטר ביום ט' בסיוון תשע"ו (15.6.2016). בן שמונים ושתיים בפטירתו. הובא למנוחות בבית העלמין ברמת השרון. הותיר בן ו בת, נכדים ואח.

לאנציקלופדיה המקוונת "ויקיפדיה" הועלה דף המספר על יוסף ושלל הישגיו בספורט.