Окончил курс в военной академии;

Участник Крымской войны 1853 - 1856 гг. на кавказском фронте.
В 1853 служил в Ахалцихском отряде князя Андроникова.
14 ноября 1853 г. отличился при штурме хорошо укрепленных турецких позиций под Суплисом - орден Св. Георгия 4-й степени.
Затем - участник обороны Севастополя - обер-квартирмейстер войск Севастопольского гарнизона - награжден двумя Золотыми саблями "За храбрость" (по ошибке).
В 1860 - Полковник Генерального Штаба. Служил на Кавказе.
С 1860 г. начальник "Зачуйской экспедиции" - командующий войсками т.н. "Зачуйского отряда", перед которыми поставлена задача окончательно присоединить к России Заилийский край (юго-восток современного Казахстана и север Киргизии) и разгромить находящихся там кокандцев.
Летом 1861 года его отряд вышел из Верного в сторону Иссык-Куля. В бою на реке Джирен-Айгыр в Кастекском ущелье разгромил 5-тыс. отряд кокандцев, после непродолжительной бомбардировки принял капитулюцию крепости Токмак, 4 сентября 1861 года после 5-дневной осады взял крепость Пишпек (взяты трофеи - 3 знамени и 16 пушек).
В 1861 получил за поход чин генерал-майора. В Омске был вызван на дуэль наказным атаманом Сибирского казачьего войска Критским, так как публично дурно отозвался о боевых качествах сибирских казаков. Дело улажено примирением при помощи генерал-губернатора Западной Сибири Гасфорта.
С 1863 г. начальник штаба Виленского военного округа.
С 1867 г. начальник 32-й пех. дивизии.
С 1868 г. - начальник 4-й пехотной, 2-й гренадерской дивизий.
С 1877 г. командир 14-го армейского корпуса. Участник Русско-турецкой войны 1877-78 гг. - занимал с корпусом румынскую Добруджу, в активных боевых дейсвтиях не участвовал.

генерал-лейтенант (1868), генерал от инфантерии (1883).

Член Военного совета.

По данным И.Бабкова "Циммерман был одарен блестящими способностями и получил прекрасное образование и воспитание, был в то же время человек светский. Обладал большой начитанностью и отличной памятью, был весьма интересный собеседник и превосходных рассказчик в небольшом приятельском кружке... но при всех своих достоинствах отличался вспыльчивым и неровным характером".

Перевел с французского на русский мемуары французского маршала Мормона. Автор статей на военные темы в газетах "Кавказ" и "Северная Пчела"