אברהם כרמי נולד ב-1928 בעיירה קששוביצה בפולין, בן יחיד להוריו בצלאל ולאה. עם פלישת הגרמנים ברחה המשפחה לוורשה וגרה אצל משה פוזנר, דודו של אברהם שהיה מנהל בית הקברות היהודי. ביתו של הדוד נהרס בהפצצות, והוא שיכן את משפחתו ומשפחות נוספות בבניין בבית הקברות.
אברהם התרגל לחיים בבית הקברות, במקום שבו נערכו 40-30 לוויות ביום. הוא רכש השכלה יהודית לצד השכלה כללית, ואת בר המצווה שלו ציין בבית הכנסת בבית הקברות, בסעודת סלק ותפוחי אדמה שהכינה אמו. אמו עבדה בבניית חומות הגטו, ואברהם עזר לה בעבודתה, על מנת לעמוד בהספק הנדרש לשם קבלת כרטיס מזון.
במהלך האקציה הגדולה בקיץ 1942 הגיעו הגרמנים לחפש יהודים בבית הקברות. דיירי המקום מיהרו להסתתר בבונקר, אבל אברהם ואמו לא הספיקו להגיע אל מקום המסתור ונלקחו עם כל עובדי בית הקברות לאומשלגפלץ, כיכר האיסוף לקראת השילוחים להשמדה. במהלך החיפוש שערכו בבית הקברות גילו הגרמנים את הבונקר, שבו הסתתרו גם בנו של משה פוזנר ובני משפחתו, וירו במסתתרים למוות.
באומשלגפלץ הותר למשה גלבקרון, שומר בבית הקברות, לעזוב את הכיכר. עם צאתו מהמקום הוא לקח עמו את לאה, שהעמידה פנים שהיא אשתו, ואילו את אברהם הוציא כשהוא מוסתר בתרמיל גב. אביו של אברהם שולח לטרבלינקה ונרצח. עם שובם לבית הקברות קברו משה גלבקרון ולאה את בני המשפחה שנרצחו באקציה.
במרד גטו ורשה באביב 1943 הסתתרו אברהם ואמו בבונקר, אבל הגרמנים גילו את המקום ולקחו את כל המסתתרים בו לאומשלגפלץ. אברהם, אמו ודודו משה פוזנר שולחו למיידנק. במחנה מיידנק הופרדה האם מאברהם ונרצחה, ואילו אברהם ודודו הובאו למחנה שבויים בבודזין, שם עבדו בבית חרושת למטוסים. משה שמר על אברהם, נתן לו ממזונו, החזיק את ידו בלילות והפיח בו תקווה.
אברהם ומשה שולחו למחנה עבודת כפייה בראדום. משם הם הוצעדו אל טומשוב מזובייצקי, ומשם הוסעו לבירקנאו. בסלקציה אמר משה לאברהם לעמוד זקוף ולצבוט את לחייו כדי שייראה בריא וכשיר לעבודה. מבירקנאו הועברו יחד בין מחנות עבודה שונים.
משה, שסוכך על אברהם והציל אותו לאורך כל הדרך, נפטר יומיים לפני השחרור מתשישות ומחלות.
בספטמבר 1945 עלה אברהם לארץ ישראל. במלחמת העצמאות הוא נמנה עם מגיני גוש עציון ונפל בשבי הירדני. לאחר שחרורו עבד אברהם בבית הספר החקלאי במקווה ישראל והיה מפקח במשרד החינוך. הוא היה איש עדות וליווה כמאה קבוצות בנסיעותיהן למחנות בפולין.
לאברהם ולרבקה, שורדת ברגן-בלזן, שלושה ילדים, תשעה נכדים ו-23 נינים.