Родился в ст. Чалыкла ныне Озинского района Саратовской области. Отец – стрелочник ж.д. Русский.

Окончил Новочеркасские кавалерийские курсы, заочно Средне-Азиатский коммунистический университет (1934), Военную академию им. М.Фрунзе (1935).

С 1918 – в РККА. Участник подавления Астраханского восстания, связной с 25-й Чапаевской дивизией при обороне г. Уральска, участник разгрома Врангеля.

Член КПСС с 1924 года. С 15 лет начал трудиться. Работал телеграфистом на станциях Чебышево, Уральск и Красный Кут. Во время Февральской революции участвовал в разоружении жандармов на Урал-Илецкой железной дороге. В 1917 - 1918 годах в составе красногвардейского отряда т. Загуменного принимал участие в боях под Астраханью. После возвращения отряда по заданию Краснокутского ревкома сформировал новый красногвардейский отряд. В марте 1918 года убыл на фронт под Уральск в качестве начальника связи Московско-Саратовского пехотного полка, а позднее - одной из бригад 1-й Уральской дивизии. В 1918 - 1921 годах сражался против Деникина и Врангеля, командуя кавалерийским полком и бригадой, воевал на Кубани и в Закавказье в составе 9-й армии и 2-й Конной армии . После Гражданской войны командовал эскадроном. В последующие годы принимал непосредственное участие в ликвидации басмачества в Средней Азии. Части под его командованием уничтожили отряды Утан-Бека (1929), Ибрагим-Бека (1931).

В 1932 - 1936 - командир 11-го Хорезмского полка оперативных войск ОГПУ.

В 1932-33 гг. – один из главных организаторов разгрома последних крупных соединений туркменских басмачей Дурды-Мурта и Ахмед-бека в Каракумах.

01.1936-09.1937 - помощник начальника, врид. нач-к отдела боевой подготовки Управления пограничной и внутренней охраны НКВД ЗСФСР.
09-12.1937 - зам. начальника УПВО НКВД Азербайджанской ССР.
12.1937-02.1939 - нач-к УПВО НКВД Белорусской ССР, одновременно, в 01-02.1939 - 1-й заместитель НКВД Белоруссии.
02.1939-07.1943 - заместитель НКВД СССР по войскам.
В 1940 – командующий армией.
В 1941-42 – командующий 39-й армией Калининского фронта (в январе 1942 г. прорвал германский фронт в ходе Ржевско-Вяземской наступательной операции).
В августе 1942 – январе 1943 - командующий Северной группой войск (три армии) Закавказского фронта (тяжелые оборонительные бои в р-не Моздока, Орджоникидзе, Нальчика, и попытки неудачного наступления и окружения немцев на Северном Кавказе).
В январе-мае 1943 – командующий Северо-Кавказским фронтом.
В мае-августе 1943 – зам. командующего Волховским фронтом.
В августе-ноябре 1943 – зам. командующего Юго-Западным, 3-м Украинским фронтами, командующий 8-й гвардейской армией (форсирование Днепра).
В ноябре 1943-марте 1944 – командующий 42-й армией (прорыв блокады Ленинграда).
С апреля 1944 – командующий 3-м Прибалтийским фронтом.
С июня 1945 – зам. командующего войск на Дальнем Востоке. (участник разгрома Японии).
В 1945-47 – командующий Бакинским военным округом.
В 1947-48 – командующий Закавказским военным округом.
В мае 1948-апреле 1954 – заместитель министра внутренних дел СССР по войскам.

В августе 1953 г. - руководил Комиссией (фактически - подавлением восстания) заключенных "Речлага" (система Воркутинских лагерей)

Генерал армии (1944).

Герой Советского Союза (1945 – за Японию). Награжден 4 орденами Ленина, 4 орденами Красного Знамени, орденом Суворова, орденом Кутузова 1-й и 2-й ст., Красной Звезды и иностранными орденами.

Депутат Верховного Совета СССР (с 1946). Кандидат в члены ЦК КПСС (с 1952).

В годы Гражданской войны – 9 раз ранен. Во время ВОВ ранен еще 4 раза (2 из них тяжело).

Застрелился в г. Москве опасаясь ареста и привлечения к суду по делу Л.Берия. Считался выдвиженцем и членом "команды" Л.Берия.