יצחק גיטרמן נולד בעיירה הורנוסטייפיל שבאוקראינה בשנת 1889, בסביבה דתית חסידית, אך רכש השכלה מודרנית. בצעירותו עבר לקייב, למד רוסית והתחבר לחוגי ספרות היידיש. במלחמת העולם הראשונה סייע מטעם הוועדה היהודית לסיוע לקורבנות מלחמה, EKOPO, לפליטי המלחמה מעיירות מערב רוסיה, גליציה וליטא. הוא ניהל אספקת מזון ולבוש והקמה של מטבחים ציבוריים לפליטים, והשתמש בתשתית הזו כדי לאפשר לפליטים גישה למוסדות חינוך וחברה, וכדי לקרב יהודים אמידים ומשכילים לציבור הפליטים. כך סייע לגיבוש תחושת סולידריות בקרב היהודים, כציבור. את הניסיון שצבר בפעילותו זאת הביא לימים לפעילותו בגטו ורשה.
עקב הסיוע שהגיש גיטרמן לפליטים, דנו אותו השלטונות הסובייטיים ברובנו למוות, אך הוא הצליח להימלט והגיע לוורשה. ב-1921 מונה לתפקיד ראש משרד הג'וינט בוורשה והמשיך לסייע בשיקום פליטים יהודים. הוא עבר לעסוק בהוצאה לאור, עמד בראש סניף המכון לחקר היהדות ייווא בוורשה והיה חבר בוועד המרכזי של המכון, שישב בווילנה.
ב-1926 שב גיטרמן לעבוד בג'וינט ובשנות השלושים סייע להקמת מוסדות סעד והסבה מקצועית. הוא ייסד רשת קופות להלוואות ללא ריבית עבור יהודי פולין ועסק בהוצאה לאור. מאמצע שנות השלושים, בשנים שלאחר מות פילסודסקי, שנות התגברות האנטישמיות בפולין, אירעו פוגרומים בעסקים יהודיים בעיירות ברחבי פולין. גיטרמן היה נוסע ברחבי פולין, אומד את הנזקים ומגיש ליהודים ולעסקים שנפגעו סיוע מטעם הג'וינט: סיוע כספי, ייעוץ פיננסי ומנהלתי, שנועד לסייע ליהודים לעמוד בתנאים ממשלתיים לשם הקמת עסק, וכן הכשרה והסבה מקצועית. הוא עמד בראש מאמץ של הג'וינט לפנות לארגונים של יוצאי הקהילות היהודיות בארצות הברית ולבקש מהם תמיכה ביהודי פולין בעת מצוקתם.
גיטרמן יצר קשרי עבודה וידידות עם עמנואל רינגלבלום, לימים ראש פרויקט התיעוד הארכיוני בגטו ורשה, "עונג שבת". לימים קבע רינגלבלום שגיטרמן עורר השראה בסובבים אותו.
עד שגיטרמן הופיע, נזכר רינגלבלום, היתה לפקידי הג'וינט תדמית שלילית משהו בעיני רוב יהודי פולין: יהודים אמריקנים חסרי רגשות, קרי-רוח, מרוחקים קצת, שעישנו סיגרים והתעניינו במיוחד בשורה התחתונה. גיטרמן היה שונה. רינגלבלום קבע: "כאשר יהודי רגיל דיבר עם גיטרמן. הוא הרגיש לגמרי בבית." (שמואל קאסוב, מי יכתוב את ההיסטוריה שלנו, כנרת זמורה דביר, 2014, ע' 106)
בסוף אוקטובר 1938 גרשה גרמניה אלפי יהודים לפולין. רוב היהודים המגורשים הגיעו לעיירת הגבול זבונשין, שם שהו תחת כיפת השמיים בתנאים קשים. גיטרמן הטיל על רינגלבלום לסייע להם.
בספטמבר 1939, עם פרוץ מלחמת העולם השנייה, היה גיטרמן שליח הג'וינט בווילנה. הוא הגיש סיוע לפליטים היהודיים והפליג לשבדיה בשליחות הג'וינט. הגרמנים עצרו את האנייה וגיטרמן נכלא במחנה שבויים. באפריל 1940, לאחר שחרורו, הגיע גיטרמן לוורשה והשתתף בפעילות יס"ס, הארגון היהודי לעזרה הדדית, ובעזרה סוציאלית לארגוני מחתרת ולתנועות נוער. עם ידידו רינגלבלום היה גיטרמן ממנהלי הארכיון החשאי של הגטו, "עונג שבת". הוא היה בין פעילי ארגון התרבות היהודי בגטו ורשה "ייקאר" (יידישע קולטור ארגאניזאציע) ותמך במפעלי תרבות חשאיים.
לאחר פלישת הגרמנים לברית המועצות בקיץ 1941, עם התפשטות השמועות על רצח יהודים, תמך גיטרמן בכוח הלוחם המתארגן בוורשה ושלח כסף ללוחמים בגטו ביאליסטוק לשם רכישת נשק. לאחר הקמת "הארגון היהודי הלוחם" בגטו ורשה באוקטובר 1942 היה גיטרמן פעיל בוועדת הכספים של המחתרת ופעל להשגת כסף לרכישת נשק למחתרת.
גיטרמן נרצח בפתח ביתו בגטו ורשה, ביום הראשון של אקציית ינואר 1943 בגטו. על קברו בבית הקברות בגטו הונח לוח מצבה מאולתר, שנועד להיות זמני, ועליו נכתב "מת מוות טרגי", לצד תאריך הירצחו: 18 בינואר 1943.
אוסף החפצים, יד ושם
תרומת גב' ורטהיים-גיטרמן