Den 29 april 1897 bildade läroverkspojkarna Gunnar Nisbeth och John Uggla en ny förening: IFK Norrköping. I ungdomstidningen Kamraten hade de läst en uppmaning att bilda idrottsföreningar runt om i landet. IFK Norrköping blev den sjuttonde kamratföreningen och hade första året 25 medlemmar (18 pojkar och 7 flickor).
IFK Norrköpings förste ordförande, Albrecht Lindström, var bara 16 år. Han var en god löpare och utmärkte sig vid gymnastik- och idrottsfesten på Getängen 1899. Strax därefter gick han till sjöss och dog på väg till Trinidad 1903.
Verksamheten i den nya föreningen handlade till en början inte så mycket om tävlingsidrott utan mest om skridskoåkning och skogspromenader. Och allteftersom de första medlemmarna slutade skolan och lämnade Norrköping föll IFK i glömska.
Men 1902 kom en nystart. Ett 30-tal ungdomar, som hade tänkt starta en ny kamratförening i staden, tog i stället över den existerande föreningen. De började också med den nya sporten fotboll och mötte i den allra första matchen Läroverket på Getängen (förlust med 1-2). Året därpå invigdes Idrottsparken med en idrottsfest och där vann IFK fotbollsturneringen.
De tidiga åren i IFK Norrköpings historia handlade annars mycket om friidrott. År 1906 arrangerades SM i friidrott på Idrottsparken och det ökade intresset för sporten i staden. Vid OS i London 1908 deltog två löpare från IFK: textilarbetaren Georg Peterson och läroverkseleven Arvid Ringman, som var de första östgötska olympierna. I Stockholms-OS 1912 deltog inte mindre än åtta IFK:are. Bäst gick det för Gustaf "Topsy" Lindblom, som tog guld i tresteg. Hans klubbkamrat Georg Åberg kom tvåa i tresteg och tog bronsmedalj i längdhopp.
Majken Åberg var den stora stjärnan i IFK:s damsektion som bildades 1930. Hon blev svensk mästare i slungboll 16 år i rad och satte ett inofficiellt världsrekord. Därtill tog hon SM-guld i diskus och kom på sjunde plats i den grenen i OS 1948.
IFK hade friidrott på programmet fram till 1977. När fotbollen blev alltmer dominerande växte kraven på en specialiserad friidrottsklubb och 1976 bildades IK Tiwaz.
Cykel var en annan av IFK Norrköpings tidiga, starka grenar. I början av 1900-talet dominerade Arvid Åberg, som vid sidan av cykling även ägnade sig åt fotboll, friidrott och skridskoåkning. ”Starke Arvid” blev svensk mästare i slägga 1910 och 1911, och tog en bronsmedalj i skridsko-SM 1904. Han var far till slungbollsgiganten Majken Åberg.
Men det var fotbollen som skulle göra IFK Norrköping riktigt känt. Redan 1904 deltog IFK i svenska mästerskapen och nådde hela vägen till kvartsfinal där det blev förlust med 5-0 mot den tidens gigant Örgryte IS. När allsvenskan startade 1924 var IFK ett av de tolv lagen i serien och kom på åttonde plats premiärsäsongen.
1940-talet blev ett sagolikt decennium för IFK Norrköping. År 1943 tog klubben det första SM-guldet under den ungerska tränaren Lajos Czeizler. Efter en fjärde plats året därpå blev det fyra raka seriesegrar för ”Guldköping” med spelare såsom Gunnar Nordahl, Nils Liedholm, Torsten Lindberg och Georg ”Åby” Ericson. Fem spelare från IFK var också med i OS-landslaget som i London 1948 tog Sveriges hittills enda mästerskapsguld i fotboll.
Sammanlagt har IFK Norrköping erövrat tretton SM-guld och har vunnit Svenska cupen sex gånger under de hundratjugo år som klubben haft fotboll på programmet.
IFK spelade bandy redan 1905 och hade 1937 nått toppen av seriesystemet. Året därpå byttes bandyn mot ishockey och under 1950-talet spelade IFK i division 1 (den då högsta serien), men tog bara en seger på två säsonger. År 1967 slog IFK Norrköping och Sleipner ihop sina ishockeyverksamheter till det som i dag är Vita Hästen.
År 2004 blev IFK:s kvarvarande sektioner självständiga föreningar inom IFK Norrköpings Idrottsallians: bowling, fotboll (och bridge) och orientering. Bowlingsektionen hade bildats i samband med att stadens första bowlinghall öppnade vid Gamla torget 1931. Orientering hörde först till friidrotten, men fick en egen sektion 1937.
Förutom ovan nämnda sporter har det inom IFK Norrköping bedrivits backhoppning, bordtennis, boxning, brottning, brottning till häst, dragkamp, gymnastik, handboll, konståkning, pushboll, schack, simning, skidor, skridsko, skridskosegling, tennis, tolkning efter häst, tyngdlyftning och vattenpolo under föreningens nu 125-åriga historia.