Od 1923 r. dowodził pułkiem kawalerii, a później ukończył skrócony kurs dowódczy w Akademii im. Frunzego. W 1930 r. objął dowództwo brygady, a sześć lat później korpusu kawalerii. Szczęśliwie ominęły go stalinowskie czystki w wojsku. W 1939 r. dowodził 1. armijną grupą sowieckich wojsk w Mongolii, dowodząc w bitwie pod Chałchyn-Goł. To on pierwszy w Armii Czerwonej użył czołgów do okrążenia oddziałów japońskich i ich zniszczenia. W czerwcu 1940 r. dowodził inwazją na rumuńską Besarabię. Od lutego do lipca 1941 r. był zastępcą szefa Sztabu Generalnego Armii Czerwonej. 15 maja tegoż roku przedstawił Stalinowi dokument, w którym proponowano przeprowadzenie ofensywy przeciwko będącej w sojuszu z ZSRR Trzeciej Rzeszy.
Stalin odmówił.
Po niemieckiej napaści w czerwcu 1941 r. gen. Żukow dowodził frontami: Odwodowym, Leningradzkim i Zachodnim. Jego trafne uwagi dotyczące kierunków niemieckich operacji były ignorowane. W roku 1942 z ramienia STAWKI koordynował działania m.in. frontów w bitwie stalingradzkiej i leningradzkiej. Przez niektórych historyków uważany był za dowódcę bezwzględnego, nieliczącego się z ofiarami. Inni twierdzą, że tylko taka postawa w latach 1941 – 1943 mogła zapobiec całkowitej klęsce. Warto podkreślić, że cenił podwładnych, którzy potrafili bronić swoich racji. Nie był człowiekiem zawistnym.10 kwietnia 1944 r. został marszałkiem Związku Radzieckiego. Latem 1944 r. koordynował działania 1. i 2. Frontu Białoruskiego w operacji „Bagration”.
Był zastępcą naczelnego dowódcy Józefa Stalina. W ostatniej fazie wojny dowodził 1. Frontem Białoruskim w operacji berlińskiej. 8 maja o godz. 22.43 w Karlshorst w Berlinie wraz z dowódcami alianckimi przyjął od feldmarszałka Keitla akt bezwarunkowej kapitulacji Rzeszy.
24 czerwca w Moskwie na placu Czerwonym w imieniu Stalina marszałek Żukow na białym koniu przyjął defiladę oddziałów Armii Czerwonej.
