Mellem 1899 og 1901 forud for dannelsen af ​​et landshold, der var fem uofficielle internationale kampe mellem forskellige tysk og engelsk udvælgelse teams, som alle endte som store nederlag for det tyske hold. Otte år efter oprettelsen af ​​det tyske fodboldforbund (DFB), blev den første officielle kamp i Tyskland fodboldlandshold spillet den 5. april 1908 mod Schweiz i Basel, med den schweiziske vinde 5-3. Tilfældigvis, den første kamp efter Første Verdenskrig i 1920, den første kamp efter Anden Verdenskrig i 1950, da Tyskland stadig var forbudt fra de fleste internationale konkurrencer, og den første kamp i 1990 med tidligere østtyske spillere var alle imod Schweiz så godt. Tysklands første mesterskab titel blev endda vundet i Schweiz.

Dengang spillere blev udvalgt af DFB, da der var ingen dedikeret træner. Den første leder af Tyskland landshold var Otto Nerz, en skolelærer fra Mannheim, der tjente i rollen 1926-1936. Den tyske FA havde ikke råd rejse til Uruguay for første VM iscenesat i 1930 under Den Store Depression, men sluttede på tredjepladsen i 1934 World Cup i deres første optræden i konkurrencen. Efter et dårligt resultat på 1936 Olympiske Lege i Berlin, Sepp Herberger blev træner. I 1937 satte han sammen en trup, som blev snart tilnavnet Breslau Elf (den Breslau Eleven) i erkendelse af deres 8-0 sejr over Danmark i den daværende tyske by Breslau, Nedre Schlesien (nu Wrocław, Polen).