בפרוץ מלחמת העולם השנייה חיו בסמורגוניה כ-2,300 יהודים – פחות ממחצית תושביה. מרביתם התפרנסו ממלאכה, מחנוונות וממסחר זעיר. בסמורגוניה פעלו מפלגות ותנועות נוער יהודיות של הציונים ושל הבונד, בית ספר "תרבות", ספרייה יהודית ומועדון ספורט יהודי. בעקבות כיבוש סמורגוניה בידי הסובייטים במחצית השנייה של ספטמבר 1941 הולאמה הפעילות הכלכלית בעיר ונפסקה הפעילות הפוליטית היהודית.
סמורגוניה נפלה בידי הגרמנים ב-26 ביוני 1941. עם כניסתם לעיירה שרפו הגרמנים את בניין בית הספר "תרבות" והוציאו להורג 12 צעירים יהודים. בתחילת יולי 1941 חויבו יהודי העיירה לשאת טלאי צהוב, תנועתם הוגבלה, והם חויבו בתשלומי כופר. בפקודת הגרמנים הוקם יודנרט, ובראשו הועמדו הרב יצחק מרכוס וי' בדנס (Badanes). היודנרט היה אחראי בעיקר על גיוס יהודים, בני 12 ומעלה, לעבודת הכפייה.
בספטמבר 1941 רוכזו יהודי סמורגוניה בשני גטאות סגורים, אחד מהם על אדמותיה של מושבה חקלאית צמודה לעיירה. רבים מהם נשלחו לעבודת כפייה בסלילת מסילות רכבת ואוכלוסיית הגטו הצטמצמה. בקיץ 1942 חוסל הגטו שבמושבה החקלאית ויושביו הועברו לגטו השני, שהיה שמור ומגודר.
באוקטובר 1942 פונו כ-1,600 מיושבי גטו סמורגוניה לגטו אושמיאנה וגורלם היה כגורל יושביו. מקצת היהודים שנותרו בסמורגוניה שולחו באותה העת למחנות עבודה בליטא. באפריל 1943 הובלו אחרוני היהודים בסמורגוניה לפונר (Paneriai, Ponary) ונרצחו שם.
