Under forntiden skedde begravningar i gravfält i anslutning till byn eller gården. Vid Norrköping finns en lång rad sådana gravfält, bland annat i Fiskeby, Pryssgården och Ringstad.
När sedan kristendomen etablerades började man i stället begrava de avlidna vid kyrkorna. De äldsta kyrkogårdarna var troligtvis mycket enkla, trädlösa och gräsbevuxna. Gravplatsen märktes ut med en häll eller ett stenkors, för de fattiga bara en liten gravkulle och möjligen ett träkors.
Vid utgrävningar 2012 i kvarteret Mjölnaren vid Tunnbindaregatan påträffades en gravplats från övergången mellan vikingatid och medeltid. Det hittades inga spår av någon kyrkbyggnad och det kan röra sig om en så kallad gravgård, en tidigkristen gravplats utan kyrka eller kapell. Sammanlagt 38 gravar undersöktes, men det har funnits många fler på platsen.
På 1100-talet byggdes Norrköpings äldsta kyrka – S:t Johannes – där Hörsalen i dag ligger. Kyrkogården omfattade dagens Hörsalsparken, men sträckte sig även in i grannkvarteret Gripen. Den sista begravningen ägde rum 1813. I samband med att kyrkan byggdes om till konsert- och föreläsningssal 1913 annonserades efter gravrättsinnehavare bland annat i Post- och Inrikes Tidningar. Ingen hörde dock av sig så gravarna täcktes över med jord.
I Hörsalsparken har det vid flera tillfällen hittats skelett. Vid en arkeologisk undersökning 2013 påträffades ett hundratal gravar som tros vara från 1700-talet. På vissa ställen låg gravarna i minst tre lager och uppskattningsvis finns drygt 3 300 gravar kvar från kyrkogården. Samtliga ben som hittades återbegravdes på Norra begravningsplatsen.
Troligen redan på 1100-talet byggdes Norrköpings andra kyrka, som helgades åt S:t Olof. Den kom att bli stadsförsamlingens kyrka och låg strax söder om dagens S:t Olai. Begravningar skedde här tills stadens nya begravningsplats öppnades 1811.
Kyrkogårdens östra del är i dag S:t Olofsskolans gård, men gravar har även påträffats under Skolgatan. År 2013 dokumenterades cirka 160 gravar och den äldsta av de dem som undersöktes arkeologiskt daterades till mellan senmedeltid och 1600-talets första hälft. Utifrån gravtätheten beräknas det finnas uppemot 10 000 gravar.
År 1543 omtalas S:ta Gertruds kapell ”nordan ån”. Dess läge är inte närmare känt, men tidigare forskning har velat placera det i kvarteret Kapellhorvan öster om Skvallertorget. Vid utgrävningarna i grannkvarteret Mjölnaren påträffades senmedeltida gravar som kan komma från en begravningsplats vid kapellet.
Stadens tyska församling uppförde 1673 Hedvigs kyrka och dess kyrkogård sträckte sig över hela kvarteret. År 1811 beslutade sockenstämman att ”inga lik vidare härefter komma på församlingens gamla kyrkogård at jordas”.
Under början av 1800-talet anlades många kyrkogårdar utanför städerna, av hälsoskäl och platsbrist. År 1811 invigdes ”Stadens begravningsplats” (numera Matteus begravningsplats) av biskop Carl von Rosenstein. Här gravsattes fortsättningsvis de döda från Olai församling och Tyska församlingen.
Där fanns då redan en judisk begravningsplats. När judar 1782 gavs rätt att bosätta sig i Norrköping, Stockholm och Göteborg fick församlingen också tillstånd att anlägga en begravningsplats. Kapellet på Matteus kyrkogård byggdes 1847 och ritades av Norrköpings stadsarkitekt Carl Teodor Malm.
Landsförsamlingen S:t Johannes ville inte ha en begravningsplats så långt från dess geografiska områden söder och öster om staden. I stället anlades 1814 en egen kyrkogård, som låg en bit utanför staden tills Södra förstaden börja växa fram på 1860-talet. Sedan dagens S:t Johannes kyrka och kyrkogård stod klara 1906 ändrades namnet till S:t Johannes gamla kyrkogård och senare till Södra begravningsplatsen.
Eftersom Folkparken tillkom vid den då nybyggda Matteus kyrka kunde inte stadens begravningsplats växa mer. I stället anlades Norra begravningsplatsen, som invigdes 1914. Gravkapellet ritades av en av tidens ledande arkitekter, Torben Grut, som senare även ritade Linghallen. Här finns numera även ett område för muslimer och en särskild katolsk begravningsplats.
År 1938 byggdes Norrköpings krematorium med Himmelstalunds kapell och Sankt Olofs kapell. Vid Krematorielundens begravningsplats finns också ett minnesmärke över de Norrköpingsbor som dog i pesten 1710 och som begravdes på en pestkyrkogård där Folkparken i dag ligger.