1917. szeptember 23-án született Kassán, munkáscsaládban nőtt fel. Négy polgári osztály után géplakatos szakmát tanult. 1941-ben a Ganz Villamossági Gyárban műszaki ellenőr, 1945-től művezető, majd a Ganz Villamossági Transzformátorgyár vezető helyettese lett.
1938-tól a Magyar Athletikai Club (MAC) kék-sárga színeiben atletizált, 1945-től a Toldi Miklós SI, a Goldberger SE, majd a Budapesti Vasas sportolója volt. Súlylökésben és diszkoszvetésben is versenyzett, de nemzetközi szintű eredményeit kalapácsvetésben érte el. Viszonylag későn, harmincévesen lett a világ legjobbja. Az 1946-os Európa-bajnokságon negyedik helyen végzett, a következő évben 57,60 méterrel már első volt a világranglistán. 1948-ban, két héttel a londoni olimpia előtt a tatai edzőtáborban első magyar atlétaként állított fel világrekordot kalapácsvetésben, 59,02 méterrel, két centit javítva a német Erwin Blask tíz évvel korábbi eredményén.
A brit fővárosban esélyeshez méltóan szerepelt, és a dobogó legfelső fokára állhatott fel. A vékony testalkatú kalapácsvető legyőzte a hatalmas termetű jugoszlávokat és az amerikai óriásokat is (legnagyobb vetélytársai, a németek el sem indulhattak, mert a második világháborúban vesztes Németország nem kapott meghívót a játékokra). Németh az első sorozat után már vezetett, a három legnagyobb dobás is az ő nevéhez fűződik. A legmesszebbre, 56,07 méterre az utolsó sorozatban szállt kezéből a szer, amivel megszerezte a második világháború utáni első magyar ötkarikás aranyérmet, egyben ő volt az első magyar sportoló, aki olimpiai bajnok lett, miután a megnyitón vitte a zászlót.
Teljesen újszerű dobási technikát alkalmazott: alacsonyan forgott, miközben leszúrta a sarkát és a talpát, csak a dobás pillanatában egyenesedett fel. A világrekordot 1949-ben 59,57-re, 1950-ben 59,88-ra javította, az 1952-es helsinki olimpiai játékokra is világcsúcstartóként érkezett. A finn fővárosban 57,74 métert dobott, ami a harmadik helyre volt elegendő. Az aranyérem tanítványa, Csermák József nyakába került, aki a hatvanméteres álomhatárt áttörve 60,34 méteres világcsúccsal nyert.
Németh Imre utolsó bajnokságát harmincnyolc évesen szerezte meg. Kétszer nyerte meg az angol bajnokságot, 1942 és 1955 között tizenkétszeres magyar bajnok, 1941 és 1959 között tizenkétszeres csapatbajnok volt. Tízszer javított országos csúcsot, 34-szer szerepelt az atlétikai válogatottban, pályafutása során háromszor állított be világcsúcsot.
1945-ben a Magyar Kommunista Párt tagjaként a Magyar Függetlenségi Népfront országos listáján országgyűlési pótképviselőnek választották, 1949-től 1951-ig parlamenti képviselő volt.
Részt vett a Népstadion építésében, amelynek 1953-tól igazgatója, 1957-től 1980-ig a Népstadion és Intézményei Vállalat főigazgatója volt. Személyéhez fűződött a Kisstadion, a Körcsarnok, a Központi edzőpályák építése, korszerűsítése. 1958-ban és 1960-ban a Magyar Testnevelési és Sport Tanács (MTST) tagja volt, 1964-től 1973-ig a Magyar Atlétikai Szövetség elnökeként is tevékenykedett, egyben a Vasas atlétika szakosztályát is vezette elnökként.
Versenyzőként, vezetőként egyaránt a magyar sportélet kiemelkedő egyénisége, meghatározó személyisége volt. Ő volt a modern kalapácsvető iskola megteremtője, az 1968-as mexikói olimpia után benne fogalmazódott meg először a magyar „magaslati edzőtábor” létrehozásának gondolata. A mátraházi létesítmény a következő évben nyílt meg, 2015-ben pedig teljesen felújították.
1951-ben a Magyar Népköztársaság kiváló sportolója, 1954-ben a Magyar Népköztársaság Érdemes Sportolója lett, életútjáért 1979-ben megkapta a Nemzetközi Olimpiai Bizottság érdemrendjének bronz fokozatát. Nevét 1995-től egy budapesti, 2001-től egy szegedi általános iskola viseli. Fia, Németh Miklós apja nyomdokaiba lépve az 1976-os montreali olimpián gerelyhajításban világrekorddal nyert.
Németh Imre 1989. augusztus 18-án, hetvenkét éves korában hunyt el, emlékét 1998 óta szobor őrzi a Népstadion toronyépületében.
Fedőkép: Németh Imre aranyérmet érő dobása 1948-ban a londoni olimpián