Родился в провинции Газни. Таджик, но считал себя пуштуном.

Окончил Военно-воздушное училище в СССР и стажировку в 1963-64.

С 1962 - знакомится с Тараки, вскоре вступает в Народно-демократическую партию Афганистана - НДПА. Фракция "Хальк/Народ".
Активный участник заговора Дауда и свержения короля Захир-Шаха.
Летом-осенью 1973 (после прихода к власти Дауда) - комендант Кабула. В 1973-76 - начальник административного управления ПВО.
В 1976-78 - уволен в запас, заподозрен в заговоре.
Во время "саурской/апрельской" 1978 года революции лично пилотировал самолет бомбивший президентский дворец Дауда.
В 1978-сентябре 1979 - руководитель "АГСА" (служба госбезопасности). Уволен Амином.
14 сентября 1979 - поддержал Тараки во время конфликта с Амином, перешел на нелегальное положение.
С начала 1980 - заместитель Премьер-министра и зам. пред. Революционного совета, член Политбюро ЦК НДПА.
17 августа 1980 - отправлен послом в Монголию из-за конфликта с Б.Кармалем и 11 июля 1981 - выведен из Политбюро ЦК НДПА.
10 июля 1986 - выведен из членов ЦК НДПА.
В конце 1980-х несколько раз пытался самовольно покинуть свой пост и вернуться в Афганистан.
До 1988 - посол в Южном Йемене.
В марте 1990 самовольно прибыл в Индию. Обвинен в причастности к путчу министра обороны Ш.Таная.
В Афганистан до 1992 г. больше не возвращался.
После прихода к власти моджахедов в 1992 году вернулся в Афганистан, где арестован службой безопасности А.Ш.Масуда.
По данным сайта "Афганистан.Ру" от 29.09.2005 со ссылкой на афганские источники - "после прихода к власти моджахедов был арестован в Кабуле и до настоящего времени содержится в заключении. Генеральная прокуратура обвиняет его в гибели сотен мирных граждан. Сам Сарвари все обвинения в свой адрес опровергает. В скором будущем в Кабуле начнется над ним судебный процесс".

В декабре 2005 в Кабуле начался судебный процесс, который шел с большими перерывами и закончился в октябре 2008 году. Военным апелляционным судом Афганистана приговорен к 19 годам лишения свободы.

Женат. Трое детей.