Первоначальное название — Большая Ильинская — как и ряд улиц города: Сергиевская, Спасская, Вознесенская, комплекс Троицких улиц, получила по названию близ расположенной церкви, служившей заметным ориентиром. Церковь Илии Пророка (Ильинская) находилась на месте современного детского сада № 30 (д. 75а по ул. Б. Московская)[1]. Построенная в XVII веке, она была снесена в 1932 году[2].
Современное название улица получила в 1920 году в память русского публициста-революционера А. И. Герцена (1812—1870)[3], по этой улице 9 мая 1838 года молодой Александр Герцен проезжал на венчание из дома титулярного советника Константина Петровича Смирнова (на месте современного д. 29[4], событие подробно описано Герценом в мемуарах «Былое и думы»)[5].
д. 22 — Н. Е. Федосеев (1871—1898) — один из первых пропагандистов марксизма в России и руководитель первых марксистских кружков в стране (мемориальная доска).
угол с улицей Свердлова, д. 3 — историк, архивист, краевед, основатель и первый руководитель государственной архивной службы Владимирской области Н. В. Малицкий (мемориальная доска)
д. 23 — К. Н. Тихонравов (1822—1879) — русский археолог, этнограф и статистик, редактор «Владимирских губернских ведомостей», секретарь Владимирского губернского статистического комитета, исследователь Владимирской губернии.
