Müller a bajorországi Nördlingenben született, a helyi futballcsapatban kezdett el játszani, a Bayern München 19 éves korában szerződtette, ahol olyan korszakos játékosokkal került egy csapatba, mint Franz Beckenbauer vagy Sepp Maier.
A Bayern akkor még a másodosztályban szerepelt, ám 1965-ben feljutott az élvonalba, ahonnan azóta sem esett ki. A bajor együttes páratlan sikerszériája a hatvanas években, éppen a Müller-féle csapattal kezdődött: a kiváló támadó, akit a németek a Nemzet bombázójának neveznek, 15 év alatt a bajnokságban 427 mérkőzésen 365 gólig, a nemzetközi színtéren 74 összecsapáson 66 találatig jutott, a nyugatnémet válogatottban pedig 62 mérkőzésen 68 gól a mérlege.
Játékstílusáról úgy írtak, hogy Müller „alacsony, zömök, furcsa kinézetű és nem különösebben gyors” labdarúgó, akinek ugyanakkor rövidtávon hihetetlen gyorsulása volt, a fejjátéka átlagon felüli, a gólérzékenysége pedig még annál is jobb. Rövid lábainak köszönhetően rendkívül alacsonyan volt a súlypontja, gyorsan fordult, remek egyensúlyérzéke volt, amellyel rendszerint ki tudta billenteni a védőket a helyzetükből.
Kortársa és jó barátja, a védő Franz Beckenbauer azt mesélte, a sebessége elképesztő volt, amikor edzésen egymás ellen játszottak, soha nem volt esélye ellene.
Müller sikerekben gazdag pályafutása során német bajnokságot és Német Kupát négyszer-négyszer, Bajnokcsapatok Európa Kupáját 1974 és 1976 között sorozatban háromszor nyert, a Kupagyőztes Európa Kupájában és az Intertotó Kupában további egy-egy alkalommal diadalmaskodott a csapatával.
A válogatottban az 1970-es világbajnokságon tíz gólt szerzett és aranycipős lett, ám vb-elsőséget mégsem ekkor, hanem négy évvel később ünnepelhetett: az 1974-es, hollandok elleni döntőben ő szerezte a győztes találatot. A két seregszemle között, 1972-ben Európa-bajnok és gólkirály lett a németekkel, a szovjetekkel szembeni fináléban kétszer volt eredményes. Hét német gólkirályi címe mellett kétszer volt európai aranycipős, 1970-ben pedig kiérdemelte a legjobb játékosnak járó Aranylabdát. 1972-ben összesen 85 gólt szerzett, ezt a naptári évre vonatkozó rekordot csak 2012-ben sikerült megdöntenie Lionel Messinek.
A Bayernben töltött évek után három évet játszott az Egyesült Államokban a Fort Lauderdale Strikers együttesében, 1999-ben kilencedik lett az évszázad legjobb európai labdarúgóinak a választásán.
1982-es visszavonulását követően alkoholproblémákkal küzdött, egykori játékostársai közbenjárásával azonban elvonóra ment és meggyógyult, majd a Bayern második csapatánál dolgozott. 2008-ban szülővárosa stadionjának nevét Gerd Müller Stadionra változtatták.
