2 сентября 1874 года вступил в военную службу, а после окончания Михайловского артиллерийского училища был выпущен в 34-ю пол. пеш. артиллерийскую бригаду. По первому разряду окончил Михайловскую военную артиллерийскую академию и трехлетние курсы восточных языков при Министерстве иностранных дел в Санкт-Петербурге.

С 25 сентября 1886 по 10 апреля 1900 года служил в гражданских чинах титулярного советника и с 1890 года коллежского асессора вице-консулом в городе Ризе.

Высочайшим приказом от 10 апреля 1900 года был переименован из титулярных советников в полковники со старшинством с 13 апреля 1897 года. С этого времени состоял в распоряжении начальников Главного штаба генералов В. В. Сахарова, П. А. Фролова и А. А. Поливанова.

С 15 апреля 1906 года был старшим штаб-офицером для особых поручений при Туркестанском генерал-губернаторе генерал-лейтенанте Д. И. Субботиче, а с 7 ноября 1906 по 26 января 1907 года - помощником военного губернатора Самаркандской области генерал-майора С. Д. Гескета.

С 26 января 1907 года служил помощником военного губернатора Ферганской области генерал-лейтенанта В. Н. Сусанина, а с 8 марта 1911 года заменил его в должности военного губернатора.

В июле 1916 года, на фоне начавшихся (после объявления указа о мобилизации туземного населения в тыловые части войск) волнений и прямых вспышек насилия, призывал население добровольно предоставить требуемое количество рабочих, причем не останавливался перед публичным чтением Корана, надев при этом чалму. Такое поведение вызвало неодобрение исправляющего должность генерал-губернатора генерал-лейтенанта М. Р. Ерофеева, а позже и назначенного с 22 июля 1916 года генерал-губернатором Туркестана генерала А. Н. Куропаткина. Гиппиус был отозван от должности из-за "неправильного толкования Высочайшего указа" (о порядке призыва туземных рабочих) и переведен в резерв чинов при штабе Кавказского военного округа.

25 февраля 1917 года был уволен от службы по домашним обстоятельствам, после чего проживал в Петрограде (Литейный проспект дом 24, кв 31).

Кроме русского, владел немецким, турецким, персидским и арабским языками.

Дата и место кончины не установлены.

Окончил Михайловское артиллерийское училище (1877), Михайловскую артиллерийскую академию и Курсы восточных языков.

Офицер 34-й артбригады;
В 1886-97 - на гражданской службе: вице-консул в г. Риза.
С 1897 - полковник
С 1900 - в распоряжении начальника Главного штаба;
В 1906-07 - помощник военного губернатора Самаркандской области;
В 1907-11 - помощник военного губернатора Ферганской области;
В 1909 г. в отсутствие военного губернатора Ферганской области В.Н. Сусанина временно исполнял обязанности начальника области.
В 1911-16 - военный губернатор Ферганской области;

Награды:
Орден Святого Станислава 3-й степени (1891)
Орден Святой Анны 3-й степени (1895)
Орден Святого Станислава 2-й степени (1899)
Орден Святой Анны 2-й степени (1903)
Орден Святого Владимира 3-й степени (1909)
Орден Святого Станислава 1-й степени (1913)
Орден Святой Анны 1-й степени (08.10.1915)

Чины
подпоручик (старшинство с 22.05.1877)
поручик (старшинство с 18.12.1878)
штабс-капитан (старшинство с 27.03.1882)
переименован в поручика гвардии (старшинство с 27.03.1882)
переименован в полковники (произведен 10.04.1900, старшинство с 13.04.1897)
генерал-майор (произведен 1906; старшинство с 06.12.1906; "за отличие")
генерал-лейтенант (производство и старшинство с 06.12.1912; "за отличие")

Жена - Нина Николаевна (13.10.1864 - ?), дочь военного инженера Николая Зубова (1834-1902).
Дочь - Ксения, была второй женой архитектора Георгия Михайловича Сваричевского; их сын - советский архитектор Н.Г. Сваричевский
Четыре дочери.
Дочь - Марина

Библиография
Статистические таблицы вилайетов Турецкой империи, сост. А. И. Гиппиус, Тифлис, 1889 (Приложение ко 2-му выпуску т. 9 "Известий Кавказского отделения Русского географического общества")
Виляеть (вилайет) Сивас и сеть путей к западу от Эрзерума, т. 1-2, Тифлис, 1890
Свод маршрутов по Азиатской Турции и краткий военно-географический очерк района, Тифлис, 1892
Столетие военного министерства. 1802-1902. Главный штаб. Исторический очерк. Образование (обучение) войск, сост. полковник А. И. Гиппиус, СПБ, 1903.

https://ru.wikipedia.org

Брат - Владимир Иванович Гиппиус (1847-1918) тоже был военным, вышел в отставку в чине генерала от артиллерии. В отличие от младшего брата, он был кадровым военным, и потому известен не только участием в русско-турецкой войне, но и тем, что в 1905 году командовал артиллерией при подавлении Декабрьского восстания в Москве. Он умер в 1918 году своей смертью, но только благодаря тому, что его дочь служила в военном госпитале и спрятала там отца от революционного трибунала.

брат - Иван Иванович Гиппиус в период первой русской революции 1905-1906 года был директором Семянниковского (позже - Невского) судостроительного завода, второго по величине после Путиловского предприятия Петербурга. Число работавших на нем превышало 5200 человек, среди которых были сильны как антиправительственные, так и черносотенные настроения. Известно, что однажды И.И.Гиппиус приказал закрыть ворота и не пустил на территорию завода казаков для разгона митинга. С другой стороны в большевистской литературе описываются его дисциплинарные меры по отношению к рабочим. Видимо, как и брат Александр, Иван Иванович умел лавировать, добиваясь главного - сохранить порядок и производство. По данным Чрезвычайной следственной комиссии Временного правительства 1917 г. боевики-черносотенцы планировали убить директора И.И.Гиппиуса, нанимали киллеров. Но те не выполнили заказ.