Переулок проходит от набережной реки Фонтанки до Владимирского проспекта.

Первое его название, известное с 1776 года – Троицкий. Поблизости находилось подворье Троице-Сергиевой Лавры (современный адрес: Фонтанка, 44 – улица Рубинштейна, 3).

С 1798 года Троицким переулком стала именоваться современная улица Рубинштейна, а бывший Троицкий переулок превратился в Графский.

Графский переулок на плане Петербурга 1894 года (фрагмент)

Это было логично – подворье в переулок не выходило, зато левую его сторону от Фонтанки до угла с нынешней улицей Рубинштейна занимала усадьба графов Головиных.

6 октября 1923 года «в пику» старому названию переулок был переименован в Пролетарский, а 16 января 1964 года в попытке возродить интерес к революционному прошлому его переименовали в улицу Марии Ульяновой – в честь сестры В.И. Ленина Марии Ильиничны Ульяновой (1878–1937). Тогда же Полозова улица на Петроградской стороне стала улицей Анны Ульяновой.

Как и её брат, М.И. Ульянова рано стала профессиональной революционеркой. Не окончив Брюссельского университета, она с 1899 года окунулась в партийную работу.

После Февральской революции она стала ответственным секретарём «Правды», с 1924 года – редактором журнала «Рабоче-крестьянский корреспондент». В 1929 году направлена в Институт Ленина–Сталина, где работала до самой смерти.

4 октября 1991 года Графскому переулку (как и Полозовой улице) было возвращено историческое название.