В 1921 году в 16 лет Крейзер добровольно вступает в Красную Армию. В Московской Пролетарской стрелковой дивизии прошел по всем ступеням командной лестницы, пока не был назначен командиром дивизии весной 1941 года. В оборонительных боях за реку Березина Крейзер собрал под своим командованием все части Красной Армии, действовавшие в этом районе. В первых числах июля был прегражден путь 18-й танковой дивизии вермахта. Несмотря на значительный перевес сил и полный контроль противника над воздушным пространством, наступление немецких частей было задержано на два дня, после чего дивизия Крейзера перешла в наступление.
Несколько дней дивизия сдерживала наступление нацистов, что позволило 20-й армии собрать силы для обороны Орши по Днепру. Нацисты попытались деморализовать красноармейцев. Были разбросаны листовки с таким содержанием:
«Русские солдаты! Знаете ли вы, кому доверили свою жизнь?! Ваш командир еврей Янкель Крейзер. Неужели вы думаете, что Янкель спасет вас от наших рук?»
Маршал Жуков писал впоследствии:
«В этих сражениях… Я.Г.Крейзер блестяще показал себя».
В середине июля он был ранен и отправлен в госпиталь. 22 июля 1941 года Крейзеру было присвоено звание Героя Советского Союза. Яков Григорьевич Крейзер был первым Героем Советского Союза среди старших офицеров и командиров соединений и четвертым вообще в годы Великой Отечественной войны.
После войны Яков Крейзер продолжал служить в Красной Армии. Скончался в 1969 году.