בפרוץ מלחמת העולם השנייה חיו בוולקוביסק כ-8,000 יהודים – כשליש מכלל תושביה. מרביתם עסקו במסחר, ברוכלות ובמלאכה. לרשות הקהילה היהודית עמדו בנקים קואופרטיביים וארגוני סעד מקומיים וכן בית מרקחת, בית חולים ובית יתומים יהודי. בוולקוביסק הייתה פעילות ענפה של מפלגות ותנועות נוער יהודיות, ובהן מפלגות ותנועות ציוניות, הבונד ואגודת ישראל, וכן של מוסדות דת, תרבות וחינוך יהודיים, ובכללם ישיבה ולהקת תֵאטרון.
בעקבות כיבוש וולקוביסק בידי הצבא האדום ב-18 בספטמבר 1939 הולאמו החנויות והעסקים ונפתחו קואופרטיבים, בבתי הספר הונהגה היידיש כשפת ההוראה, ונסגרו המפלגות ומסגרות החינוך היהודיות. בתקופה זו זרמו לעיר פליטים יהודים מאזורי מערב פולין שנכבשו בידי הגרמנים.
הרובע היהודי בעיר נהרס בהפצצות הכבדות שקדמו לכיבוש וולקוביסק בידי הגרמנים. העיר נפלה בידיהם ב-28 ביוני 1941, ורצח של יהודים החל מיד. פעילים קומוניסטים יהודים הוסגרו לגרמנים והוצאו להורג. יהודי וולקוביסק חויבו לשאת טלאי צהוב ולסמן את בתיהם, הוטלו עליהם הגבלות תנועה, והם גויסו לעבודת כפייה. בפקודת הגרמנים הוקמו בעיר יודנרט, בראשותו של ד"ר יצחק ויינברג, ושירות סדר יהודי – בראשותו של מ' חנטוב (Khantov).
באביב 1942 יצרה קבוצה של צעירים קשר עם יחידת פרטיזנים סובייטית ביער הסמוך וכמה מהם ברחו והצטרפו אליהם. ב-14 באוקטובר 1942 הוצאו להורג ביער ליד איזבלין (Izabelin) 27 רופאים יהודים מוולקוביסק, לאחר שנתפסו מגישים טיפול רפואי לפרטיזנים; אחד הרופאים היה ראש היודנרט ויינברג. לראש היודנרט נתמנה במקומו סגנו נׂח פוקס.
בסתיו 1942 הוקם בשתי סמטאות בוולקוביסק גטו סגור ומגודר, ורוכזו גם יהודים מעיירות באזור, בצפיפות קשה. ב-2 בנובמבר 1942 הועברו היהודים למחנה בונקרים ששימש שבויי מלחמה במלחמת העולם הראשונה. במחנה זה שמחוץ לעיר רוכזו בסך הכל כ-20,000 מיהודי האזור. קשישים וחולים שהתקשו בהליכה הוצאו להורג בוולקוביסק. במחנה שררו תנאים קשים והתמותה בו הייתה גבוהה. מרבית היהודים גורשו בתוך שבועות מספר לטרבלינקה, והנותרים עבדו בו עד שגורשו לאושוויץ -בירקנאו ב-26 בינואר 1943.