Открытие памятника Кольцову — беломраморного бюста, выполненного скульптором Агостино Трискорни, состоялось 27 октября 1868 года. С тех пор безымянный сквер обрёл наименование «Кольцовский». Первоначально скульптура была обращена в сторону улицы Плехановской, и до 1940 года от этой улицы к памятнику вела короткая главная аллея сквера. В 1871 году завершилось сооружение металлической решетки-ограды по периметру сквера.
В сквере в течение 1876—1877 годов соорудили один из двух самых первых фонтанов города. В начале XX века сквер был для горожан любимейшим, в летние дни всегда наполненным детьми. О нём заботилась садовая комиссия городской думы. В 1910 году здесь по-прежнему работал фонтан, украшенный «вертушкой», стояло 47 скамеек, благоухали цветочные клумбы. Из оранжерей высаживались растения экзотических видов: «Муза Ензема», «Драцена Индивиза в кадках», «Кана Крози», «Ешеверия секунда», «Хамеропс в кадке» и другие. В 1937 году фонтан был заменён на новый, а в 1977-м — на цветомузыкальный[1][2] . Он стал одним из первых в стране фонтаном с синхронизацией потоков воды и цвета подсветки в зависимости от ритма музыки.