Bierhoff, som avgjorde EM-finalen 1996, har arbetat för det tyska förbundet sedan 2004.
"Jag har berättat för ordföranden om mitt beslut i dag. Jag bereder väg för andra att välja en ny riktning", säger han i ett uttalande.
Tyskland gjorde även fiasko VM 2018 i Ryssland då man slutade sist i gruppen, efter bland andra Sverige.
"Jag lämnar inte utan nödvändig självkritik. Vi har inte lyckats upprepa våra tidigare framgångar de senaste fyra åren. Några beslut vi trott mycket på har bevisats felaktiga. Ingen ångrar det mer än jag. Jag tar ansvar för det", säger Bierhoff.
Anfallsstjärnan Oliver Bierhoff gjorde 37 mål på 70 landskamper för Tyskland under sin spelarkarriär.