В группе "Альфа" с 1974 года. Воевал в Афганистане. В декабре 1979 года был одним из руководителей штурма Дворца Амина в Афганистане. 28 апреля 1980 года за участие в штурме Дворца Амина в Афганистане Карпухину было присвоено звание Герой Советского Союза.
С 1978 по август 1991 год был командиром группы антитеррора КГБ СССР "А" ("Альфа"). Лично командовал и участвовал в операциях по обезвреживанию террористов.
20 августа 1991 года, подчиняясь приказам членов ГКЧП и лично командующего ВДВ СССР генерала В.Ачалова, В.Карпухин вместе с генерал-майором А.Лебедем участвовал в разработке плана блокирования Верховного Совета РСФСР и нейтрализации руководства РСФСР. В месте с группой сотрудников "А" должен был арестовать на даче в Архангельском Бориса Ельцина однако сотрудники "А" не подчинилась приказам Карпухина об аресте Ельцина. После провала путча, в августе 1991 года В.Карпухин был отправлен в отставку. После его отставки и переподчинения "Альфы" часть сотрудников группы подала рапорты об увольнении из органов КГБ СССР.
С 1991 по 1992 год занимал должность руководителя Службы безопасности Президента Казахстана Н.Назарбаева. А.Коржаков "От рассвета до заката": "Карпухина, кстати, после путча пригласил к себе консультантом по безопасности Назарбаев. И однажды, когда президент Казахстана возвращался из Америки, самолет сделал промежуточную посадку в аэропорту "Внуково-2". Ельцин поручил мне провести конфиденциальные переговоры с президентом Казахстана, в том числе и по политическим вопросам. В зале приемов "Внуково" накрыли стол. Вся казахская
правительственная делегация покинула самолет и разгуливала по аэропорту. Только Карпухин, узнав, что переговоры провожу я остался в самолете. Не знаю, чего он опасался. Но вскоре на каком-то приеме меня, наконец, с ним познакомили. И я объяснил генералу, что избегать встреч со мной не стоит, я его ни в чем не виню. Не только он один вынужден был исполнять идиотские приказы."
С 1992 года работает в сфере частного детективного бизнеса. С 1992 года - председатель правления Ассоциации ветеранов войны в Афганистане. Член Комитета ТПП РФ по безопасности предпринимательской деятельности.
На выборах в Государственную Думу РФ 1995 года вошел в московскую группу избирательного объединения "Союз патриотов" (список не собрал 200 тыс. подписей). Имеет воинское звание генерал-майор запаса.