ערב מלחמת העולם השנייה חיו בסמולנסק כ-15,000 יהודים שהיו קרוב לעשרה אחוזים מתושביה. בשנות העשרים היו בסמולנסק שני בתי ספר יהודיים, חוג לדרמה ביידיש וסניף מקומי של "החלוץ", אך כולם חדלו להתקיים בשנות השלושים. ב-1929 הועבר מגומל (Gomel) לסמולנסק סמינר למורים ששפת ההוראה בו הייתה יידיש.
הגרמנים כבשו את סמולנסק ב-16 ביולי 1941. מרבית יהודי העיר, כ-12,000 בני אדם, פונו או נמלטו ממנה לפני כן.
כבר בשבועות הראשונים של הכיבוש נרצחו כמה עשרות יהודים תושבי סמולנסק, בעיקר משכבת האינטליגנציה. באוגוסט 1941 חויבו יהודי העיר בני עשר ומעלה לשאת סרט זרוע צהוב וטלאי על בגדיהם. ב-5 באוגוסט 1941 (על-פי מקורות גרמניים בסוף יולי 1941) החל ריכוזם של 2,000-1,200 יהודים מקומיים מסמולנסק ופליטים מבלרוס בגטו מוקף גדר תיל. מקומו של הגטו נקבע סמוך לבית הקברות היהודי, מעבר לנהר דנייפר (Dnieper) שרוב גשריו כבר נהרסו. התושבים המקוריים פונו מהמקום, וליהודים הוקצבו שלושה ימים לעבור לגטו, אך בפועל נמשך המעבר כשבוע. את חפציהם נאלצו היהודים להעביר אל הגטו על גבם. הצפיפות בגטו הייתה קשה, ושש עד שמונה משפחות נדחסו בכל אחד מהבתים הקטנים. יהודים שלא הצליחו למצוא מקום שינה, נאלצו לישון בישיבה.
בד בבד עם הקמת הגטו הוקם יודנרט ובראשו הועמד רופא השיניים ד"ר פיינסון (Peinson). היודנרט היה אחראי על התייצבות היהודים לעבודת הכפייה ועל שמירת הסדר בגטו. למרות גדר התיל לא פסק הקשר בין יהודי הגטו לתושבי הסביבה, והיהודים נעזרו בהם כדי להשיג מזון. דרך אחרת להשיג המזון הייתה היציאה לעבודת הכפייה, שתמורתה קיבלו העובדים 200 גרם לחם גס ליום. היהודים הועסקו בניקיון רחובות סמולנסק, ולאחר זמן מה הועברו לעבודה בתחנת הרכבת. אנשים חלשים שלא היו מסוגלים לעבוד עוד, נורו ונקברו במקום.
בחודשים הראשונים של הגטו, הועסקו כמה בעלי מלאכה בעבודות סנדלרות ותפירה. העסקתם נמשכה כנראה גם לאחר הפקודה להשתמש ביהודים רק בעבודות קשות ביותר ולהחרים את כלי העבודה שלהם.
אחת הבעיות הגדולות של הגטו הייתה היעדר מקור מים בתחומו. היהודים נאלצו לשאוב מים מהדנייפר ולעתים קרובות היו שוטרים רוסים או גרמנים מרוקנים את הדליים שהביאו בשובם לגטו. בהיעדר מים נקיים ובגלל הצפיפות הרבה פשׂו בגטו מחלות. בחורף 1941/42 מתו בגטו יותר מ-200 יהודים, בעיקר ילדים וזקנים. על היהודים נאסר לקבור את מתיהם בבית הקברות, למרות קרבתו לגטו, והם נאלצו לקבור את המתים בתחום הגטו. שוטרים רוסים שדדו מדי פעם רכוש של יהודים. בספטמבר 1941 הצטוו היהודים למסור את כל פריטי הפרווה שלהם לגרמנים. ביוני 1942 הצטווה היודנרט לגבות מיהודי גטו סמולנסק קנס כספי שהוטל עליהם.
לפעמים היו שוטרים רוסים וגרמנים נכנסים לגטו בלילות ושודדים רכוש, ולעתים נלוו לשוד מכות, יריות ואף מעשי אונס. בגטו הוקמו משמרות לילה של זקנים כדי לנסות להזהיר נשים מפני הסכנה המתקרבת.
גטו סמולנסק חוסל ב-15 ביולי 1942. בלילה שבין 14 ל-15 ביולי הקיפו את הגטו שוטרים רוסים. הגרמנים הצעידו כ-2,000 יהודים לחורשה סמוכה, כקילומטר מן הכפר מגלנשצ'ינה (Magalenshchina), ושם הם נורו למוות או נרצחו במשאיות גז.
