עם הקמת גטו ורשה, בסוף 1940, אורגן בו שירות סדר יהודי ובו כאלפיים יהודים. צעירים יהודים רבים שחיפשו אמצעים להישרדות התנדבו אליו וחלקם הפכו למפקדים בו. הם לא ביקשו שכר ואף נדרשו לשלם תמורת מינויים אלה. רובם היו בעלי השכלה גבוהה ומעמד כלכלי גבוה.
ב-10 בנובמבר 1940 כתב חיים אהרן קפלן ביומנו: תחת פיקוחה של הנהגת הקהילה היהודית
מסתדרת משטרה יהודית ששלטונה יהיה פרוש על יהודי הגטו הקבורים חיים. לשם שרות המשטרה בגטו כבר נרשמו תשעת אלפים צעירים בתור מועמדים למילוי תפקידים משטרתיים. דרך אגב: הכניס כל אחד מהנרשמים חמשה זהובים דמי הרשמה ועלה כל סכום ההרשמה לארבעים וחמש אלף זהוב ששילמו עניים מרודים בעד התקווה להתקבל למשטרה בגטו בלי שום תשלום גמול. כל הנרשמים התחייבו מראש לעבוד במשטרה עבודת נדבה.
בראשיתו אורגן שירות הסדר היהודי על מנת לכוון את התנועה, לפקח על איסוף האשפה ועל ההיגיינה בבניינים, וכן על מנת למנוע פשע ולשמור על הסדר בגטו. בדצמבר כתב קפלן:
את רחוב קרמליצקה אי-אפשר לעבור מבלי אשר תסַכן את בריאותך. ולכן תיקנה המשטרה היהודית תקנה יפה, שזרם אחד לצד רחוב לשנו, ילך ימינה, וזרם שני, לצד רחוב נובוליפקי, ילך שמאלה. תקנה זוֹ יפה, אבל אין קצה לעמל השוטרים היהודים העומדים על פרשת הרחובות ונותנים הוראות כיצד ללכת. יראנו מפני אי-המשמעת הטבועה בכל יהודי – וטעינו. כשם שצייתו לשוטרים אריים כך מצייתים לשוטרים יהודים, ויפה לראות הוא איך השוטר היהודי מנצח על התנועה הכבירה שבקרן הרחובות לשנו-קרמליצקה והסדר הוא דוגמאי. אין פרץ ואין צוחה. אין מפריעי סדר ואין הולכי ארחות עקלקלות.
אנשי שירות הסדר היהודי סייעו ליהודי הגטו, אך בהדרגה החלו לגבות כספים על כך. כתב קפלן:
שוטרי המשטרה היהודית שזכו לעמוד על משמרתם על יד הגבול, בעצה אחת הם עם הנאצים לחלק שלל השוחד ולמלא את נפשם. ואמנם, חסד עשה הקב"ה אתנו שברא מבריחי מכולת מצד אחד ושוטרים יהודים אוהבי בצע ולוקחי שוחד מצד שני. הם מצילים אותנו מפני הרעב.
החל ב-1941 הוטל על אנשי שירות הסדר לספק עובדי כפייה לרשויות הגרמניות. במאי 1942 כתב קפלן ביומנו:
המשטרה היהודית חזרה על פתחי בתי ישראל והקימה משנתם כשמונה מאות בחורים על מנת לקחתם אל מחנה העבודה. בין הלקוחים היו עניים וגם עשירים. שוב מהומה ומבוכה. המשטרה טוענת ומצטדקת: חזקה עלינו פקודת הכובש לספק כך וכך בחורים עובדי עבודה, ועלינו למלא את פקודתה. הבחורים הנתפסים הובלו למקום הנועד בשבילם. אבל מחציתם שבו – ודווקא העשירים שבהם. הדבר היה לפלא. אחר כך נודע הסוד: המשטרה נצטוותה לספק לא שמונה מאות אלא ארבע מאות. ליתר בטחון וליתר הכנסה נאסרו שמונה מאות, ובהם ארבע מאות עשירים. העשירים נתנו כופר נפש ושבו הביתה; והעניים לוקחו והמה צפויים לעבודת פרך ולמיתה אטית.
ביולי 1942, עם גירוש יהודים מגטו ורשה למחנות עבודה, וביתר שאת ב-22 ביולי, כאשר החל הגירוש ההמוני של יהודי גטו ורשה למחנה ההשמדה טרבלינקה, הצטוו אנשי שירות הסדר היהודי לאסוף יהודים לגירוש. כתב קפלן:
נתחדשה גזרת "מחנות-העבודה" שאינם אלא הכנה למוות. מיום פרוץ המלחמה עם רוסיא בטלו המחנות והגטו שקט. השתא – הגזרה נתחדשה. בכל בית תאניה ואניה. הקהילה נצטוותה לספק אלף וחמש מאות צעיר והדבר נמסר למשטרה היהודית. התחילה אפוא בשעות הלילה לחזור על פתחי המועמדים ורשימה בידה. עם בואה - יללות ובכיות עד לב השמים. אבל המשטרה, אף כי יהודית היא, מקשיחה את לבה ועושה את המוטל עליה... במקום אלף וחמש מאות מוציאים מבתיהם אלפים; ביניהם אף חיגרים ופיסחים ובעלי מומים. אלף וחמש מאות נמסרים לנאצי; וחמש מאות משתחררים לאחר שהם נותנים כופר נפשם – למשטרה היהודית.
אנשי שירות הסדר עמדו בפני דילמה. למשפחותיהם ולהם הובטחה חסינות מפני גירושים, ורבים האמינו שבכך שהם משתתפים באיסוף האנשים לקראת גירושם, הם מגבילים את היקף הגירושים ומצילים חיי יהודים. הם חשו שאם הגרמנים יבצעו את הגירושים, יהיו הגירושים אלימים וחסרי רחמים בהרבה.
השתתפותם של אנשי שירות הסדר באיסוף היהודים לקראת גירושם השניאה אותם על יושבי הגטו. ככל שהתמשכו הגירושים הבינו אנשי שירות הסדר שהם כלי בידי הגרמנים ושגם גורלם אינו בטוח. רבים מהם ערקו והצטרפו לסדנאות העבודה בגטו או התחבאו. בתגובה תבעו הגרמנים מאנשי שירות הסדר לעמוד במכסה יומית של יהודים לריכוז לקראת גירוש, שאם לא כן תמולא המכסה מבין קרובי אנשי שירות הסדר עצמם.
ב-21 בספטמבר 1942, יום כיפור תש"ג, היום האחרון של הגירוש ההמוני מגטו ורשה, גורשו כמעט כל אנשי שירות הסדר ובני משפחותיהם לטרבלינקה ונרצחו. בגטו המוקטן, ובו כ-50,000 מתוך כמעט חצי מיליון היהודים שהיו בגטו עם הקמתו, נותרו רק כ-200 אנשי שירות הסדר היהודי.
גם עמנואל רינגלבלום כתב ביומנו על אנשי שירות הסדר היהודי בזמן הגירושים.
ארכיון התצלומים של יד ושם 3168/7b. באדיבות ארכיון המשטרה של דורטמונד