По окончании курса в Московском Лазаревском институте восточных языков, Зиновьев в 1851 г. поступил на службу в Московский главный архив министерства иностранных дел, откуда вскоре перешел в департамент внутренних сношений того же министерства. На службе Зиновьев продолжал занятия восточными языками и в 1855 г. получил степень магистра в Санкт-Петербургском университете.

D 1871 г. назначен дипломатическим агентом при князе румынском и членом европейской дунайской комиссии.
В 1872-76 посланник в Румынии, .
В 1876 г. аккредитован в качестве чрезвычайного посланника при шахе персидском. Во время Закаспийской экспедиции Зиновьев руководил ген. Скобелева во всех вопросах политического свойства и содействовал заготовлению в пределах Персии продовольственных запасов. В 1881 г. Зиновьев успешно закончил переговоры с персидским правительством по проведению между Персией и Закаспийской областью такой границы, которая дала России возможность довершить дело умиротворения туркменских степей.

В 1882-83 член Особого гос. совещания по Среднеазиатским делам, занимавшегося вопросами присоединения Мервского оазиса и разработкой отношений России к ханствам Туркестана.

С янв. 1883 глава Азиатского департамента МИД России. В 1884 тайный советник, чрезвычайный посланник и полномочный министр императора России при дворе шаха Ирана.

В дек. 1884 подписал рус.-перс. Конвенцию о разграничении к востоку от Каспийского моря (Тегеран). В июле 1887 подписал заключительный Протокол англ.-рус. пограничной комиссии по установлению сев.-зап. границы с Афганистаном.

В 1891-97 посланник в Стокгольме при короле Швеции и Норвегии,
в 1897-1909 посол в Константинополе.
С 1909 - член Государственного совета.

Библ.: Зиновьев И.А. Афганское разграничение. Спб, 1888; его же. Россия, Англия и Персия. Спб, 1912; Дипломатический словарь. В трех томах. Том I. М., Гл. изд. Политической литературы, 1960, с. 541. Шохрат Кадыров. Российско-туркестанский исторический словарь. Том 2. Осло, 2004 (Рукопись).