Założony został w 1780 roku poza granicami ówczesnego miasta. Zajmuje powierzchnię 2,30 ha pomiędzy ulicami Floriana Kobylińskiego, Topolową i Kazimierza Wielkiego, był używany przez ponad 150 lat do zakończenia II wojny światowej. Usytuowany przy trakcie dobrzyńskim, z dala od kościołów, był przyjęty bardzo niechętnie przez ludność, która trzymała się uporczywie starego zwyczaju grzebania zmarłych przy kościołach.

W 1801 roku na cmentarzu wybudowana została kaplica, ufundowana przez Jana Antoniego Zdziennickiego, kanonika katedry płockiej. Był to budynek drewniany, położony w pobliżu wejścia głównego, a w latach siedemdziesiątych XIX wieku znacznie w ziemię wklęsły. W kaplicy znajdował się m.in. obraz główny przedstawiający św. Katarzynę i kilka mniejszych, pochodzących prawdopodobnie z płockich kościołów. Ze względu na znikomą ilość pochówków, kaplica do 1817 roku służyła jako skład prochu, a w latach międzywojennych została rozebrana.

Na cmentarzu znajduje się również grób-pomnik ku czci bohaterów powstania styczniowego 1863 roku.

Cmentarz stanowi unikatowy zespół w skali kraju ze względu na wartość artystyczną i historyczną. Z uwagi na zaniedbania i dewastację wymaga pilnej interwencji służb konserwatorskich Urzędu Miasta.

Cmentarz Rzymskokatolicki Stary jest o dziesięć lat starszy od Warszawskich Powązek, dlatego w Płocku przyjęła się nowa, lokalna nazwa Płockie Powązki.