Библиотека была основана по постановлению Московской городской думы в 1899 г., в ознаменование 100-летия со дня рождения поэта. Ее открытие состоялось в 1900 г. в доме Е. А. Богачевой на Немецкой ул. (ныне ул. Бауманская).

В 1912 г. для библиотеки был приобретен особняк наследников Ф. Д. Мухина, который более полно удовлетворял требованиям, как аудитории, так и читальни, к тому же находился в районе, исторически связанном с местом рождения и крещения поэта, да и время его возведения приходилось на эпоху жизни и творчества Пушкина. Первой попечительницей библиотеки стала дочь А. С. Пушкина, Мария Александровна Гартунг.