1896年，朱可夫将军出生于俄国卡卢加省一个偏僻的小村庄里。父亲原是一个弃儿，在孤儿院长大，后来以皮匠手艺为生。因为家境贫寒，朱可夫七岁开始，就随姐姐下地干活，割草、晒草、垛草以及放牧、割麦。小学毕业后，朱可夫进了一家毛皮作坊学徒，每天劳作十几个小时，过着半饥半饱的生活。1915年，19岁的朱可夫应征入伍，参加第一次世界大战，当了一名沙俄骑兵。十月革命爆发后，朱可夫加入苏联红军，参加了保卫苏维埃政权的国内战争，转战各个战场，屡立战功。内战结束后，朱可夫继续在红军服役，历任骑兵连长、团长、旅长、师长和骑兵军军长。
1939年6月，朱可夫升任苏联白俄罗斯军区副司令员，正组织部队演习，忽然接到命令，立即前往莫斯科领受国防人民委员的新命令。
