בפרוץ מלחמת העולם השנייה חיו בניישווייז' כ-3,400 יהודים – קרוב למחצית תושביה. מרביתם עסקו במסחר זעיר ובמלאכה. בעיירה פעלו מפלגות ותנועות נוער ציוניות, אגודת ישראל והבונד, ויהודים היו פעילים גם במפלגה הקומוניסטית הפולנית הבלתי חוקית. בעיירה היו בית ספר של רשת "תרבות" ובית ספר יידישאי. בעקבות כיבוש ניישווייז' בידי הסובייטים במחצית השנייה של ספטמבר 1939 הולאמה כלכלתה והושם קץ לחיים הפוליטיים היהודיים.
עם הפליטים שנהרו לעיירה גדל מספר היהודים בעיירה עד הכיבוש הגרמני והגיע לכ-4,600.
ניישווייז' נפלה בידי הגרמנים ב-28 ביוני 1941, וכמעט מיד חויבו היהודים לשאת טלאי צהוב, הוטלו עליהם הגבלות תנועה והם גויסו לעבודת כפייה. מעשי התעללות ורצח היו לעניין של יום-יום. הגרמנים מינו יודנרט, ובראשו הועמד עורך דין, מגליף (Megalif) שמו, פּליט מוורשה (Warsaw). ׁ
באקציה שבוצעה בניישווייז' ב-30 באוקטובר 1941 נרצחו בירי מרבית יהודי המקום, כ-4,000 בני אדם. כ-600 בעלי מקצועות נדרשים ובני משפחותיהם, שהופרדו מהנרצחים לאחר סלקציה, רוכזו למחרת בצפיפות באזור בית הכנסת בעיירה, והמתחם הוקף בגדר תיל והיה לגטו. הם הועסקו בעבודות קשות מחוץ לגטו או בבתי מלאכה בתוכו. היודנרט ניסה לארגן את החיים והעבודה בגטו ולדאוג לחלוקת מזון מסודרת, ובמקום פעל גם שירות סדר יהודי.
בדצמבר 1941 התכנסו בחשאי צעירים תושבי הגטו והתארגנו למחתרת לוחמת. הם החלו לפעול להחלשתו של ראש היודנרט, שלא נתנו בו אמון. חברי המחתרת, שנמנו עמם גם כמה מחברי היודנרט, הקימו בגטו בית ספר חשאי, ארגנו את העובדים בגטו לאיגוד מקצועי, ייצרו נשק קר ואף הבריחו לגטו מעט נשק חם.
ב-21 ביולי 1942 נקראו יהודי הגטו להתאסף, אך בעקבות ידיעה שהגיעה אליהם על חיסול יהודי הורודז'ייי (Horodziej), הם סירבו למלא את הפקודה והתקוממו, בהנהגת חברי המחתרת, ובהם שלום חולבסקי. זו הייתה אחת מההתקוממיות המזוינות הראשונות בגטאות. הגרמנים בתגובה פתחו באש על הגטו; בקרב שהתפתח נהרגו רוב היהודים, וגם נפצעו ונהרגו כמה עשרות גרמנים וליטאים. תושבי הגטו העלו באש את הבתים, והשרפה התפשטה אל מעבר לתחומי הגטו. כ-25 לוחמים יהודים הצליחו להימלט אל היערות והצטרפו לפרטיזנים.
