בנם של עליזה וכלאפו. נולד בשנת תרצ"ו (1936) בטריפולי בירת לוב. ילד במשפחה ברוכת ילדים, אח לשישה אחים ואחיות.

רפאל ("פאלה") גדל והתחנך בטריפולי, ושם למד בבית ספר. בגיל צעיר התייתם משני הוריו, ולאחר מכן האחות הבכורה מאחו (שמחה) היא שטיפלה בו ובחמשת אחיו ואחיותיו. בפרוץ מגפה קשה בטריפולי נפטרו חמשת האחים, ונותרה לו רק אחותו הגדולה מאחו. דודתו גוצה אימצה את השניים באופן לא רשמי.

בהיותו בן אחת-עשרה, בשנת 1947, כדי להצילו מגזרת גיוס נערים לצבא איטליה ששלטה באותם הימים בלוב, צורף לתנועת "עליית הנוער" ועלה ארצה. בשנת 1950 הצטרפו אליו אחותו, דודתו ובתה ג'אנו, והן קבעו את ביתן בנתניה.

בגיל שמונה-עשרה התגייס לצה"ל, שובץ לחיל התותחנים ושירת שירות מלא. בחופשות בילה בבית דודתו. בסתיו 1956 לחם עם יחידתו במלחמת סיני ("מבצע קדש").

לאחר שחרורו מצה"ל נקרא מדי פעם בפעם לשירות מילואים, ועשה זאת בחפץ לב. תמיד ביצע את הנדרש ממנו. במסגרת זו לחם במלחמת ששת הימים בשנת 1967, במלחמת ההתשה שהתחוללה מיוני 1967 ועד אוגוסט 1970 ובמלחמת יום הכיפורים שפרצה באוקטובר 1973.

בשגרה עבד במפעל להכנת רעפים ותיקן גגות רעפים שניזוקו.

ביום 9.4.1960 נישא לבחירת ליבו מיסה לבית חג'אג', ואת ביתם קבעו בנתניה. שלוש בנות נולדו להם – עליזה, יהודית וגילה. רפאל התגלה כְּאב מסור והקדיש להן מזמנו בסיפורים ובמשחקי חברה. היה לו חשוב להקנות להן חינוך דתי.

בקיץ 1982, עם פרוץ מלחמת לבנון הראשונה, גויס לשירות למילואים, והוא בן ארבעים ושש. כשחזר לביתו מהשירות הרכב שבו נהג התהפך, רפאל נפצע קשה ובעקבות זאת הוכר כנכה צה"ל.

בתום המלחמה קיבל את אות המערכה על השתתפותו בה.

רפאל, אדם דתי, שומר תורה ומצוות, היה צנוע ועניו באופיו. מדי יום התפלל בבית הכנסת שחרית, מנחה וערבית.

לאורך השנים שמר על קשר הדוק עם אחותו מאחו, שהקימה משפחה וגרה במושב דלתון בגליל העליון. השניים ביקרו זה את זה, ומדי קיץ נסע רפאל עם משפחתו לדלתון לחופשה ארוכה וסייע בעבודת הלול ובקטיף פירות במטעים. גם עם דודתו גוצה ועם ג'אנו ומשפחתה שמר על קשר קרוב, ביקר אותן לעיתים תכופות, ויחד התכנסו המשפחות בליל הסדר לחגוג את חג הפסח.

בחלוף השנים זכה לראות את בנותיו מתבגרות ונישאות וליהנות מהרחבת המשפחה ומנכדים.

רפאל ג'רבי נפטר ביום י"ט בתמוז תשס"ה (26.7.2005). בן שישים ותשע בפטירתו. הובא למנוחות בבית העלמין בנתניה. הותיר אישה ושלוש בנות, נכדים ואחות.

על מצבתו חקקו אוהביו: "וְהָלַךְ לְפָנֶיךָ צִדְקֶךָ כְּבוֹד יְהוָה יַאַסְפֶךָ" (ישעיהו נח, ח) ו"זכרך בלבנו לעד".

מאחר שלא היו לרפאל בנים, לקח על עצמו גבאי בית הכנסת שבו נהג להתפלל להגיד עליו "קדיש" בשנה הראשונה לפטירתו.

לימים לצורך הנצחה הוסב הבית שבו גר עם רעייתו בנתניה לבית כנסת ונקרא "היכל רפאל". שמות בני המשפחה שנפטרו כתובים על עלים של עץ מלאכותי בתוך המבנה. כן הוכנס ספר תורה לעילוי נשמותיהם.