1942. március 27-én Budapesten született szegény roma családban. Pályafutását a László Kórház labdarúgócsapatában kezdte, majd 1959-ben leigazolta a Budapesti Vasas, ahol rögtön bekerült az NB I-es csapatba. Első bajnokságát az 1960–1961-es szezonban nyerte a piros-kékekkel, a címet a következő évben megvédték. A Vasassal még 1965-ben és 1966-ban (ez utóbbi évben azóta példátlan módon veretlenül) lett újra magyar bajnok, 1966-ban 25 góllal a magyar gólkirályi címet is megszerezte. Az angyalföldi csapattal háromszor nyerte meg a Közép-Európai Kupát (1962, 1965, 1970).
A Farkast is soraiban tudó Vasas 1967-ben veretlenül megnyerte a chilei Hexagonal tornát, amelyen a világkupát védő Penarol, a Pelével felálló Santos és három chilei csapat vett részt, a nagyhírű Colo-Colót 9:3-ra „intézték el”. A torna legjobb mesterlövésze hét góllal Farkas lett, megelőzve még Pelét, a Fekete Gyöngyszemet is. A csatár rövid pályafutása alatt a piros-kék színekben 290 bajnoki találkozón szerepelt, 169 gólt szerzett, ezzel a klub örök ranglistáján a második helyet foglalja el. A labdarúgást 1974-ben Mészöly Kálmánnal és Ihász Kálmánnal közös búcsúmérkőzésén fejezte be.
Farkas János kiskorában megkapta a gyermekbénulást, a betegség miatt alig észrevehetően húzta a bal lábát, ennek ellenére szélsebes támadó lett, rendkívüli robbanékonysága, félelmetes gólérzékenysége miatt a hatvanas évek egyik legjobb magyar csatára volt. A labdát mindkét lábbal jól kezelte, kitűnően cselezett, a támadósorban minden poszton kitűnően teljesített, ügyesen mozgott a mezőnyben is, de igazi erénye a befejezés, a gólszerzés volt.
A válogatottban is remekelt. A fiatal csatár 1960-ban tagja volt az UEFA ifjúsági tornán győztes csapatnak, 1962-ben bekerült a válogatott keretébe a chilei világbajnokságon, de akkor nem lépett pályára. 1964-ben olimpiai aranyérmet nyert a magyar csapattal Tokióban, ugyanabban az évben a spanyolországi Európa-bajnokságon a válogatottal bronzérmet szerzett. Többször ért el mesterhármast, sőt 1966-ban a franciák elleni, 4:2 arányú győzelem alkalmával mind a négy gólt ő lőtte.
Pályafutása és az egész torna legemlékezetesebb gólját az 1966-os angliai világbajnokságon Brazíliának rúgta. Bene beadása után kapásból bombázott Gilmar hálójába, attól fogva a sajtó „brazilnak” becézte. 1968-ban a világválogatott tagjaként lépett pályára Brazília ellen, Albert Flórián, Novák Dezső és Szűcs Lajos társaságában. A válogatottban utoljára 1969. december 3-án, a magyar labdarúgás „Mohácsaként” elhíresült marseille-i világbajnoki pótselejtezőn játszott. A csehszlovákoktól elszenvedett 4:1-es vereség után többé nem húzta magára a címeres mezt, amelyben 33 mérkőzésen 19 gólt lőtt.
Labdarúgó pályafutásának befejezése után a vendéglátóiparban helyezkedett el, gebinesként több üzlet vezetője volt.
Negyvenhét éves korában, 1989. szeptember 29-én hunyt el Budapesten szívroham következtében. Halála után a Vasas utánpótlás emléktornát szervezett tiszteletére. A Magyar Labdarúgó Szövetség rá emlékezve díjat alapított, melyet minden évben tehetséges fiatal roma sportolóknak ítélnek oda. 2009-ben a chilei Concepciónban, halálának huszadik évfordulóján domborművet avattak emlékére.
