בן בכור של צביה ומרדכי. רחמים נולד ביום ג' בחשוון תרצ"ח (8.10.1937) בעיר זאכו אשר בחבל כורדיסטן בעירק.

ב-1950 עלתה המשפחה - ההורים, רחמים בן השתים-עשרה, אחיו ואחיותיו – לישראל במסגרת מבצע "עזרא ונחמיה". הם שוכנו במעברת תלפיות בירושלים, ובשנים הבאות רחמים הצעיר יצא לעבוד כדי לעזור בפרנסת המשפחה.

בשנת 1956 התגייס לצה"ל. רחמים שירת כחייל קרבי בחטיבת גולני והשתתף במבצע סיני, אז לקח חלק בכיבוש המוצבים 27 ו-29 ברצועת עזה.

לאחר שחרורו מצה"ל החל לעבוד, ובערבים השלים את לימודיו בבית ספר תיכון ערב "בית חינוך". אחרי לימודיו עבר לעבוד במשרד הדואר (ולימים בחברת "בזק").

ביוני 1967 השתתף רחמים כחייל מילואים במלחמת ששת הימים. כלוחם בחטיבה הירושלמית נטל חלק בפריצת שדות המוקשים בגבעת המבתר, מר-אליאס וגוש עציון. הוא אהב במיוחד את ירושלים, והשתתפותו בשחרורה של העיר בה חי והתגורר ריגשה אותו מאוד.

מיד לאחר מלחמת ששת הימים רחמים נשא לאישה את אסתר. בני הזוג גרו בירושלים ונולדו להם שני ילדים.

בחודש אוקטובר 1973, עם פרוץ מלחמת יום הכיפורים, גויס רחמים למילואים בהנדסה קרבית. הוא נטל חלק בקרבות העזים בחזית הדרומית והשתתף בצליחת תעלת סואץ.

בחודש אוקטובר 1974 יצא רחמים לפעילות מבצעית כחייל מילואים בבקעת הירדן. במהלך הפעילות עלה רכבם של הלוחמים על מוקש סורי מסוג "סנדוויץ'" והוא נפצע קשה בשתי רגליו ובידו השמאלית.

במהלך אשפוזו ביקשו הרופאים לכרות את אחת מרגליו, אך רחמים סירב בכל תוקף תוך כך שהבטיח כי בכוונתו להפתיע את רופאיו ולשוב ולהלך על שתי רגליו. לאחר תקופה ארוכה של טיפולים וניתוחים שוחרר לביתו כאשר הוא עומד על שתי רגליו ונעזר בקביים.

במהלך השנים שלאחר מכן שיקם רחמים את חייו, ונולד לו בן נוסף. בני הזוג גידלו את שלושת ילדיהם באהבה ובמסירות. רחמים היה ידוע באהבתו לחיים, בחוכמתו, בהומור המיוחד לו המלווה בעקיצות שנונות ובחיוכו הבלתי נשכח. הוא היה גאה במוצאו ובמשפחתו ואת ילדיו חינך לאהבת העם והמולדת, ומשבגרו הילדים שני הבנים שירתו ביחידות קרביות כאשר הבן הבכור שירת כמ"פ בחיל התותחנים והבת שירתה כקצינה בחיל הקשר.

לרחמים היו חלומות רבים, אשר את חלקם הגדול הגשים, כדברי בנו: הוא הגשים את חלומו לבנות את ביתו בירושלים, וכן הגשים את חלום חייו ונסע לביקור שורשים בעיר זאכו שבעירק, ממנה עלה לישראל.

בשנת 2006 חלה התדרדרות חמורה במצבו של רחמים, כתוצאה מסיבוכים רפואיים שנגרמו לו עקב פציעתו. ביום ב' באלול תשס"ז (16.8.2007) הוא נפטר בבית החולים הדסה עין כרם בירושלים. בן שישים ותשע במותו. רחמים הובא למנוחות בבית העלמין בגבעת שאול, ירושלים. הותיר אישה ושלושה ילדים, נכדים ואחים.

על מצבתו כתבו בני המשפחה: "אציל נפש, טווה ומגשים חלומות. מסירות, נתינה, הגשמה ואהבה היו לנתיב חייו".