בנם של לאה ודוד משה. נולד ביום א' בניסן תש"ד (25.3.1944) ברחובות. ילד שישי במשפחה ברוכת ילדים, אח לדוד, יוסף, נפתלי, רחל, סעדיה, בנימין וגדעון.

יחזקאל גדל במשפחה דתית, למד בבית הספר היסודי "מרמורק" בשכונת מגוריו ברחובות. בשעות הערב למד נגרות, עוד בעת לימודיו בתיכון עבד במקצוע זה בזמנו הפנוי.

בגיל שמונה-עשרה התגייס לצה"ל ושובץ בחיל המודיעין בתפקיד נהג משאית. במלחמת ששת הימים ביוני 1967 שירת כנהג תובלה.

בתום שירות החובה המשיך לשירות קבע במסגרת חיל ההספקה (לימים חיל הלוגיסטיקה) והתקדם לתפקיד נהג של אישים, תפקיד בו זכה להכיר אנשים חשובים ומרתקים. השקיע רבות בעבודתו, ונאלץ להיעדר מביתו לא מעט.

את אילנה, שגרה עם משפחתה סמוך לביתו, הכיר מגיל שלוש-עשרה מהשכונה, אז "החל לחזר אחריי באופן מאוד טהור", כדבריה. בשנת 1966 נישאו והקימו את ביתם ברחובות.

נולדו להם שני בנים ובת – דוד, עודד וליאת. היה אב אוהב ומיוחד. למרות עבודתו התובענית נוכחותו בבית חזקה ומורגשת, וניכרה השפעתו על חינוך ילדיו ועל הערכים שספגו.

בשנת 1968 הכיר את יצחק רבין, שגריר ישראל בארצות הברית באותם הימים, עת שירת כנהגו בביקוריו בארץ. נוצר ביניהם קשר טוב ובשנת 1974, עם תחילת כהונתו של רבין כראש ממשלת ישראל, הוא מינה את יחזקאל לנהגו האישי. בתפקיד זה עסק לאורך כל הקריירה הפוליטית של רבין, משעות הבוקר המוקדמות ועד שעות הלילה. התפקיד כלל הרבה יותר מנהיגה, כפי שתיאר איתן הבר, מנהל לשכתו של רבין בעת כהונתו השנייה: "יחזקאל שרעבי היה צילו של יצחק רבין. הוא נהג אותו בימי סערה, בימי אופוזיציה ושלטון, כראש ממשלה וכשר ביטחון. היה עד שמיעה לכל שיחותיו של יצחק רבין במכונית, שותף סוד נאמן לפעילות הפוליטית, לקשרים הבינלאומיים. שרעבי היה עם יצחק רבין ברגעי השפל ובשעות התהילה. הוא היה הכול בשבילו: נשא את תיקיו, החזיק את בגדיו הרזרביים בתא המטען, דאג למחסורו, דאג לבריאותו, דאג לחסוך ממנו כל פעולה לא נחוצה כדי שיהיה ליצחק רבין כל הזמן שבעולם לדאוג למדינת ישראל ולביטחונה". ראובן (רובי) ריבלין כתב בהיותו חבר כנסת על היחסים בין השניים: "קשר מופלא של אחווה, של רעות, קשר אישי ... יחזקאל הפך לאיש אמונו של יצחק רבין, היה כזה שדואג לו על כל צעד ושעל".

בשנת 1984 לקה בהתקף לב. לאחר שיקום חזר לעבודתו. מתוך דאגה לבריאותו של יחזקאל החליט רבין, שהיה מעשן כבד, להימנע מעישון ברכב.

אף שעבד גם בערבים, ובמיוחד במהלך שנות התשעים שהיו תקופה אינטנסיבית מבחינה פוליטית, בשבתות העדיף רבין שיחזקאל יבלה בחיק המשפחה, ולכן הוא לא עבד במוצאי שבת 4.11.1995, ליל רציחתו של רבין. עם היוודע לו דבר ההתנקשות, נסע ישירות לבית החולים "איכילוב".

הרצח טלטל אותו, גרם לו צער רב והשפיע עליו ביותר בשל הקרבה ששררה בין השניים. העובדה שלא הספיק להיפרד מרבין והידיעה שלא עמד לצידו באותו הערב הקשו עליו. מעולם לא סלח לעצמו על כך, מאחר שחש שיכול היה להצילו; ראה בעצמו שומר ראש לא רשמי של ראש הממשלה, לצד מאבטחי שירות הביטחון הכללי. "הייתי מגן עליו בגופי", אמר. "הכאב האישי אכל אותו, והוא לא נרפא", כדברי איתן הבר.

לאחר הרצח, אחרי למעלה מעשרים שנה אינטנסיביות בשירותו של יצחק רבין, בחר מתוך נאמנותו אליו שלא להיות עוד נהג אישי, ובמקום זה עבד כנהג של עובדות סוציאליות באגף השיקום של משרד הביטחון. בתקופה מסוימת התלווה בהתנדבות לעובדות הסוציאליות בפגישותיהן עם מטופלי האגף – נכי צה"ל ומשפחות שכולות, דאג להם ונקשר אליהם רגשית. תחילה התקשה להתרגל לעבודה מסודרת כזו, אך עד מהרה למד ליהנות ממנה ומן האפשרות לבלות יותר שעות פנאי בביתו. עד פרישתו לגמלאות המשיך בתפקיד זה.

לאחר פרישתו היו חייו רגועים ושלווים, והוא רווה נחת מהשגרה החדשה. בני משפחתו, בכלל זה ששת נכדיו, זכו לבלות עימו יותר מבעבר, וכשיצא לסידורים נהנה לשוחח עם מכרים שפגש בדרכו.

לאורך חייו היו ענפי הטניס והכדורגל אהובים עליו, ובצעירותו גם שיחק כדור יד.

יחזקאל, אוהב אדם, הרבה לעזור ולעשות למען הזולת. בנו עודד סיפר שאנשים שסייע להם העריכו אותו וביקרו אותו כדי להודות לו. בקרב אֶחיו בלט כדמות מרכזית ומלכדת, ולעיתים קרובות פנו אליו לעזרה, לגישור ולהתייעצות. בהיותו חברותי במיוחד הכירו אותו רבים ולעיתים קרובות עצרו אותו ברחוב כדי לשוחח. בני משפחתו תיארו אותו כ"מגנט" וכ"איש של אנשים".

יחזקאל שרעבי נפטר ביום י"ט באדר תשע"ג (28.2.2013). בן שישים ותשע בפטירתו. הובא למנוחות בבית העלמין מרמורק ברחובות. הותיר אישה, שני בנים ובת, נכדים, אחים ואחות.

על מצבתו חקקו אוהביו: "ואני אשיר עוזֶך וארַנן לבוקר חסדך" (תהילים נט, יז) וכן "תהיה נצור לנצח בלבנו, אשרינו שזכינו".

רחל רבין-יעקב, אחותו של יצחק רבין, כתבה: "כל השנים הארוכות בהן ליווה יחזקאל את יצחק – בתקופות הטובות והיפות ובתקופות הקשות – תמיד איתו, דואג ומסדר. הוא הפך לחלק בלתי נפרד מהמשפחה ... מותו קרע עוד 'פרק' מחייו של יצחק".

ראש הממשלה דאז בנימין נתניהו כתב: "יחזקאל היה הרבה יותר מנהגו של ראש הממשלה המנוח, יצחק רבין ז"ל. הוא ליווה אותו במהלך עשרות שנים והפך לאיש סודו ויד ימינו. רבין אהב אותו אהבת נפש וסמך עליו בעיניים עצומות. יחזקאל החזיר לרבין את אהבתו בנאמנות אין קץ ובמסירות ראויה להערכה. עדות לנאמנות זו הייתה החלטתו של יחזקאל לא לשמש נהגו של אף אחד אחר לאחר רצח רבין. במקום זאת סייע למשפחות שכולות ככל יכולתו, ובכך באו לידי ביטוי אישיותו המיוחדת וטוהר כוונותיו".

מנשה שכנו ציטט בהספדו את השיר "אחרי מותי" מאת חיים נחמן ביאליק, שבין מילותיו: "וגדול מאוד, מאוד הכאב! / היה איש – וראו: איננו עוד, / ושירת חייו באמצע נפסקה; / עוד שיר מזמור אחד היה לו, / והינה אבד המזמור לעד, / אבד לעד!"

לאחר פטירתו ספד לו על דוכן הכנסת חבר הכנסת דאז ראובן ריבלין, הספד שניתן לצפייה באתר "יוטיוב".

בתקשורת הכתובה והאלקטרונית סיפרו על יחזקאל וחייו, בפינה לזכרו בתוכניתו של עודד בן-עמי בערוץ 2 ובריאיון עם עודד בנו, בתוכניתו של רפי רשף בערוץ 10.