Первоначальное название 3-я Переведенская улица или 3-я линия Переведенской слободы возникло в 1732 году от находящейся здесь Переведенской слободы. 20 августа 1739 года присвоено название Средняя Мещанская улица, в связи с тем, что эту часть города заселяли граждане мещанского происхождения. Параллельно существовали названия 2-я Мещанская улица, Средняя Казанская улица. 15 мая 1882 года переименовали в Мещанскую улицу, «средняя» исчезло в связи с переименованием Большой Мещанской улицы в Казанскую, а Малой Мещанской улицы в Казначейскую.

Современное название Гражданская улица получила в октябре 1918 года, как знак упразднения советской властью дореволюционного сословного деления.

Дом И. Иохима - "Дом Раскольникова". Построен в 1831 году архитектором Егором Тимофеевичем (Георгом Рупрехтом) Цолликофером.

Ряд исследователей считает, что именно в этом доме жил герой романа Федора Михайловича Достоевского «Преступление и наказание» Родион Раскольников. В книге указано, что он «нанимал от жильцов каморку, похожую на шкаф», в Столярном переулке. Эта каморка, по описанию Достоевского, находилась под самой кровлей высокого пятиэтажного дома. И каждый раз при выходе на улицу герой романа сначала спускается на тринадцать ступеней, чтобы пройти мимо хозяйской кухни, дверь которой всегда настежь отворена на лестницу. А под воротами находилась каморка дворника с двумя ступеньками вниз.

В 1960-х годах в доме был произведен капитальный ремонт, и планировка внутренних помещений изменилась.

В «нулевых» годах XX века в доме располагалась контора Федора Федоровича Блюма «Водопроводов».

В 1928 году в доме располагалась мастерская по производству чернил И.П. Лапидусзон. Фирма существовала с 1873 года, производила штемпельную краску, гумми-арабик, чернила для белья и глазурь для обуви.