Парк занимает территорию старинного ковровского некрополя, который первоначально именовался «кладбище князей Ковровых», а с конца XVIII в. Иоанно-Воинским кладбищем. Захоронения жителей сначала села Рождественно - Коврово, а потом города Коврова производились с конца XV - начала XVI вв. и до конца 1920-х гг.
В 1934 году кладбище было закрыто. Могилы сравнивались, надгробия вывозились и использовались в качестве строительного материала. Гранитные и мраморные памятники были в основном вывезены в Москву, а надгробиями из белого известняка частично была вымощена улица Абельмана. В 1937 году, когда в СССР широко отмечалась такая дата, как 100-летие гибели на дуэли А.С. Пушкина, было решено на месте кладбища организовать парк им. Пушкина.
Основное архитектурное оформление парка пришлось на 1950-1960-е гг., когда были разбиты аллеи, установлена и поныне существующая ограда, ворота с бюстом
А.С. Пушкина и памятник поэту при входе в парк. Тогда же были установлены распространенные скульптуры советского периода, вазоны и памятник В.И. Ленину, при установке которого и была окончательно разрушена часовня над могильными плитами князей Ковровых.
Из старых захоронений была сохранена одна могила – Александра Яковлевича Малеева, революционера-большевика, погибшего в декабре 1905 года в ходе событий первой российской революции и перезахороненного на этом кладбище в июне 1906 года. В 1949 году на могиле А.Я. Малеева установлен памятник, сохранившийся до сих пор.
Сюда же по решению городской власти 20 января 1949 года был захоронен выдающийся советский конструктор-оружейник В.А. Дегтярев.
Постановлением администрации города от 17 июня 2015 года парк имени А.С. Пушкина передан Ковровскому историко-мемориальному музею для организации на его территории Историко-мемориального парка.
В 2017 году на территории парка проведены масштабные работы по благоустройству: пешеходные дорожки замостили плиткой, установили скамейки и фонари.
Благоустройство старинного некрополя продолжается.