С 1983 года работал репортером газеты "Нью-Йорк Таймс", В 1985 поступил на службу в Госдепартамент США.
В 1985-86 - политический и правозащитный сотрудник в Гондурасе.
В 1989-91 - работал в Бюро Госдепа по СССР
В 1991-93 - офицер по вопросам безопасности Центральной и Восточной Европы.
В 1994-96 - зам. политического советника Посольства в Украине;
1996-97 - помощник Госсекретаря по делам Европы и Канады;
В 1997 году занимал должность директора по общественным связям в Совете национальной безопасности США и заместителя по иностранным делам пресс-секретаря Белого Дома.
1998 - специальный помощник Томаса Пикеринга
Занимался вопросами политики и прав человека, а также вопросами региональной безопасности,
1999-2000 - преподаватель Института изучения дипломатии Джорджтаунского универрситета
с 2001 - генеральный консул США в г. Чиангмай, Таиланд
2004-2006 - директор Управления политического планирования и координации Бюро по международным вопросам борьбы с наркотиками, Вашингтон
С 2006 - помощник заместителя Госсекретаря Н.Бернса
С 2008 по 2011 год работал в посольстве в Москве в качестве заместителя главы миссии. В период с 2011 года до своего назначения послом в Болгарию 2015 году Рубин работал в Бюро по делам Европы и Евразии в качестве заместителя помощника секретаря.

Рубин был выдвинут на пост посла в Болгарии президентом Обамой и был утвержден 9 декабря 2015 года. Он был приведен к присяге 27 января 2016 года и в июле 2016 вступил в должность

Посол Рубин также является членом правления Фонда "Америка для Болгарии".

Посол Рубин в настоящее время является президентом Американской ассоциации дипломатической службы (AFSA).

По состоянию на декабрь 2019 года Рубин и AFSA собирают деньги для юридического представительства дипломатов и других государственных чиновников, участвующих в расследовании импичмента Дональду Трампу .