Библиотека была открыта при церкви Иоанна Златоуста в Коровницкой слободе города Ярославля. Основатель — купец первой гильдии, потомственный почётный гражданин города Ярославля Николай Константинович Андронов. Одна из дочерей основателя библиотеки купца Андронова — Нина Николаевна — вышла замуж за Владимира Леонардовича Книппера, родного брата жены А. П. Чехова. Возможно, неслучайно в 1918 году библиотеке присвоено имя русского писателя А. П. Чехова.
В настоящее время библиотека является региональным центром по сохранению информации о жизни и творчестве А. П. Чехова, его связи с Ярославским краем и популяризации Чеховского наследия, а также исследованию истории рода Андроновых.
Библиотека — участница научно-практических конференций, Чеховских книжных фестивалей в Таганроге, Международных Чеховских чтений в Мелихове, входит в Международное сообщество Чеховских музеев и библиотек, поддерживает контакты с учёными и исследователями творчества А. П. Чехова.