I maj 1879 anordnade Norrköpings Gymnastikförening en uppvisning av det nya spelet fotboll. NGF-medlemmarna Ernst Lindqvist och Fredrik Nyborg hade på en gymnastikfest i Uppsala lärt sig hur fotboll skulle spelas och fått med sig en boll hem. Sporten hade bara några år tidigare kommit till Sverige från Storbritannien.
NGF beslutade att ”fotbollsspel skulle intagas uti övningarna”, men nymodigheten slog inte an i Norrköping. Visserligen bildades en fotbollsklubb 1879, men den ”torde ha dött i brist på konkurrens”, skriver Rune Sandberg i boken Alla tiders. Idrott i Norrköping.
Tjugo år senare började fotbollsintresset vakna i staden, bland annat genom inflyttade skottar.
År 1899 arrangerade Norrköpings GF en match mellan två NGF-lag på idrottsfältet vid läroverket. Internmatchen inför betalande publik brukar räknas som den första fotbollsmatchen både i Norrköping och i Östergötland.
År 1901 anordnade det nybildade Norrköpings Idrottsförbund sin första idrottsfest och där förekom bland annat fotboll. Idrottsfältet på Getängen blev staden första fotbollsarena, men redan på 1890-talet hade frågan om att skaffa en riktig idrottsplats väckts. Norrköpings stad upplät mark i det så kallade Krogaregärdet och 1903 invigdes där Norrköpings Idrottspark med fotbollsplan, löparbanor och ridbana.
Ett officiellt distriktsmästerskap i fotboll arrangerades 1906 och fick en ren Norrköpingsfinal: IFK Norrköping slog IK Sleipner med 8-1. I den första östgötaserien fyra år senare spelade IFK, Sleipner och Sylvia. Seriesegrare blev Kamraterna från Peking.
IFK Norrköping hade bildats 1897 och börjat med fotboll 1902. IK Sleipner grundades 1902 och hade fotboll på programmet redan från start. Det Sylvia som spelade i distriktserien 1910–1916 verkar inte ha haft någon koppling till dagens IF Sylvia, som bildades 1922. Andra tidiga fotbollsklubbar var Norrköpings BK, Norrköpings AIK, IK Amatören, Fiskeby IF, Loddby IF och Fredriksdals IK.
År 1904 deltog IFK för första gången i svenska mästerskapen och gick till kvartsfinal, men föll med 5-0 mot den tidens gigant Örgryte IS. Året därpå deltog hela fyra Norrköpingslag i SM, som på den tiden avgjordes genom cupspel: IFK Norrköping, IK Amatören, IK Sleipner och Norrköpings GK.
Sleipner tog sig till semifinal både 1908 och 1909, men var chanslöst mot IFK Göteborg (0-10) och Djurgårdens IF (0-6). IFK upprepade bedriften genom två raka semifinaler 1910–1911. År 1920 var det så dags för det första Norrköpingslaget i SM-final. Sleipner mötte Djurgården på Stockholms stadion inför 8 000 åskådare. ”Sleipnerlaget spelade i stark fart, men följdes av otur”, rapporterade Östergötlands Dagblad. Det blev förlust med 1-0 efter ”en hårt dömd straffspark”. Även 1921 förlorade ”Randigt” i finalen, då mot IFK Eskilstuna.
Säsongen 1924–1925 var det premiär för allsvenskan – eller "Stora svenska serien" som den kallades till en början. Sleipner och IFK Norrköping fanns med bland de tolv lagen i serien och de slutade på sjunde respektive åttonde plats. Evert Blomgren i Sleipner gjorde det historiska första allsvenska målet i premiärmatchen borta mot IFK Eskilstuna. Med undantag för säsongen 1933–1934 hade Norrköping därefter minst ett lag i allsvenskan fram till och med 1982.
Stadens första riktigt stora fotbollsframgång kom 1938 då Sleipner vann serien och blev svenska mästare för första och enda gången. I guldlaget fanns den legendariske vänsterinnern Tore Keller och skytteligavinnaren Curt Hjelm.
År 1940 var IFK Norrköping tillbaka i allsvenskan efter tre års degradering och det var början på ett sagolikt decennium. Spelåret 1942–1943 tog Kamraterna sitt första SM-guld, ledda av den ungerska tränaren Lajos Czeizler. Fjärdeplatsen året därpå följdes av fyra raka seriesegrar för ”Guldköping” med spelare såsom Gunnar Nordahl, Nils Liedholm, Torsten Lindberg och Georg ”Åby” Ericson.
När Sverige tog OS-brons i Paris 1924 fanns Sleipners Tore Keller med i laget och han spelade även VM 1934 och 1938. Ännu fler Norrköpingsspelare var med och tog Sveriges enda mästerskapsguld vid OS i London 1948: Nils Liedholm, Torsten Lindberg, Knut och Gunnar Nordahl samt Birger Rosengren – samtliga från IFK. De var de första i lång rad av svenska landslagsstjärnor hemmahörande på Idrottsparken i Norrköping – och dit skulle också SM-pokalerna åter föras ytterligare åtta gånger.