Родился в г.Моршанске Тамбовской области.

В 1976 году окончил Омскую высшую школу милиции МВД СССР.

В органах внутренних дел с 1972 года.

На оперативной работе с 1976 года, работал в уголовном розыске ГУВД Москвы.

С 1986 года – в отделе МУРа, занимающегося организованной преступностью. Некоторое время контролировал деятельность московской системы валютных магазинов "Березка".

С 1988 по 1993 г.г. возглавлял 6-й отдел МУРа (борьба с бандитизмом и организованной преступностью).

С 1992 года начальник только что созданного Регионального Управления по борьбе с организованной преступностью (РУБОП). Неоднократно лично участвовал в операциях по обезвреживанию преступников и освобождению заложников.

В 1994 году Владимиру Рушайло было присвоено звание генерал-майора милиции.

В марте 1995 года, после убийства известного тележурналиста Владислава Листьева, по приказу Рушайло был проведен обыск в офисе руководителя АО "ЛогоВАЗ" Бориса Березовского.

В октябре 1996 года Рушайло был назначен первым заместителем начальника Главного управления по организованной преступности (ГУОП) МВД РФ.

В декабре 1996 года отстранен от должности и откомандирован в Совет Федерации РФ, оставаясь в штате МВД РФ.

С 1996 по 1998 г.г. - советник Председателя Совета Федерации Федерального Собрания РФ Егора Строева по юридическим вопросам и безопасности.

В мае 1998 года Указом Президента РФ назначен заместителем министра внутренних дел РФ с присвоением звания генерал-лейтенанта. Курировал деятельность ГУОП МВД.

31 мая 1999 года Указом Президента РФ назначен на пост Министра внутренних дел РФ в правительстве Сергея Степашина. Присвоено звание генерал-полковника.
+ с декабря 1999 - пред. Правительственной комиссии по борьбе с злоупотреблением и незаконным оборотом наркотических средств.
18 августа 1999-18 мая 2000 - министр внутренних дел РФ в правительстве Владимира Путина.
18 мая 2000-28 марта 2001 - министр внутренних дел в правительстве Михаила Касьянова.
28 марта 2001-9 марта 2004 - секретарь Совета Безопасности РФ.

9 марта 2004 года указом Президента РФ освобожден от должности Секретаря Совета Безопасности РФ.
С апреля 2004 - 5 окт. 2007 - секретарь Исполнительного комитета СНГ

С декабря 2007 - член Федерального Собрания РФ от Архангельской обл.

С 13 мая 2010 - 23 апр.2012 - специальный представитель президента Российской Федерации по развитию отношений с Киргизской Республикой/

В 10.2013 - 02.2019 - вице-президент Транснефти /по безопасности/

с 02.2019 - на пенсии

Член совета попечителей Английского клуба (с 1999?).

Женат. Имеет троих детей.

Награжден орденами "Мужество", "Орден Почета", "За личное мужество", а также знаком "Заслуженный работник МВД".