Библиотека была основана в 1919 году. Ее фонды были сформированы путем слияния нескольких крупнейших библиотек города. В 1953 году библиотека открывает двери для своих читателей в новом здании, построенном по проекту заслуженного архитектора России, почетного члена Российской академии архитектуры и строительных наук Виктора Ивановича Балдина.

С 1992 года по инициативе Института мировой литературы им. Горького библиотеке было присвоено имя выдающегося писателя, философа, публициста В. В.Розанова. В 2014 году библиотека открыла свои двери для читателей после капитального ремонта и реконструкции. В настоящее время библиотека располагает универсальным книжным фондом более 60 000 экземпляров. Ежегодно его пополняют 122 наименования газет и журналов по разным отраслям знаний.