Budapesten született 1920. július 17-én. Már egész fiatalon a zene és a sport bűvkörébe került, tizenkét éves korától tanult a Nemzeti Zenedében. Elvégezte a Zeneakadémia hegedű tanszakát is, de amikor választania kellett a zene és a vívás között, a sport mellett döntött. Vívását kimagasló technikai felkészültség, magas fokú taktikai érettség és rendkívüli tempóérzék jellemezte, amely egyenes következménye volt muzikalitásának.
Vívópályafutása a Budapesti (Budai) Torna Egyletben (BBTE) kezdődött, 1945 és 1950 között a Vasas, 1951-től 1967-ig a Budapesti Honvéd sportolója volt. Magyar bajnokságot hétszer nyert, kard egyéniben kétszer (1948, 1955), csapatban négyszer (1947, 1950, 1951, 1959), a párbajtőrcsapattal egyszer (1949).
A vívóválogatottnak 1947-től 1961-ig volt tagja. Világbajnoki éremgyűjteményében hét aranyérem mellett három ezüst- és két bronzérem szerepel. Először az 1953-as brüsszeli viadalon csapatban lett aranyérmes, akárcsak az 1955-ös római, az 1957-es párizsi és az 1958-as philadelphiai vb-n. 1954-ben Luxembourgban duplázott, azaz az egyéni és a csapat világbajnoki címet is megszerezte, az 1959-es budapesti világbajnokságon egyéniben hódította el az elsőséget. 1961-ben a torinói világbajnokságon negyvenegy évesen vehette át a csapat ezüstérmét. Kétszeres főiskolai világbajnok is volt, mindkét elsőséget (egyéniben és csapatban) 1949-ben, Budapesten szerezte.
A legnagyobbak közé azonban az ötkarikás játékokon emelkedett: négy olimpián lépett a pástra, és csak aranyérmet szerzett, szám szerint hatot. A csapatot négy alkalommal segítette sikerre, 1948-ban Londonban, 1952-ben Helsinkiben, 1956-ban Melbourne-ben és 1960-ban Rómában. Egyéniben Melbourne után Rómában is diadalmaskodott, negyvenévesen rendkívül izgalmas döntő asszóban védte meg címét. A vívóidő lejárta után több mint negyedórán keresztül nézett farkasszemet a lengyel Jerzy Pawlikowskival, végül egyedülálló ütemérzékének köszönhetően Kárpáti vitte be a mindent eldöntő találatot. Ezzel Fuchs Jenő mellett az egyetlen lett, akinek két olimpián is sikerült a fegyvernem mindkét aranyérmét elhódítania.
1961-ben visszavonult az aktív versenyzéstől, de a vívástól nem szakadt el. 1965-ben a Sportvezető és Edzőképző Intézetben (SEKI) vívó szakedzői oklevelet szerzett. 1976-ig nemzetközi versenybíróként tevékenykedett, utána versenyek főbírója, a Nemzetközi Vívó Szövetség kard bizottságának elnöke, bírói bizottságának tagja volt. 1961-től 1991-ig volt a Magyar Vívó Szövetség elnökségi tagja, 1977-től a Budapesti Vívó Szövetség elnöke. 1991-ben a minden idők legjobb magyar sportolóit tömörítő Halhatatlanok Klubja tagjává és első elnökévé választották. 1992-ben a Nemzetközi Vívó Szövetség örökös tagjává és a Magyar Vívó Szövetség tiszteletbeli elnökségi tagjává választotta. 1993-tól a Magyar Olimpiai Bajnokok Klubjának tagja és tiszteletbeli elnöke volt.
A vívás mellett a zenének is szerelmese, igazi műértője maradt. Zenei tanulmányait 1950-től hivatásos katonatisztként, a Magyar Néphadsereg Központi Tiszti Ház instruktoraként hasznosította, az intézménynek 1961 és 1986 között művészeti vezetője volt. Komolyzenei műsorokat szerkesztett, vezette a zenebarátok klubját, zenei előadásai és bemutatói igen népszerűek voltak tiszttársai és a sorállományú katonák körében. 1990-ben vezérőrnaggyá léptették elő, 1990 és 1994 között a honvédelmi tárca felkérésére szaktanácsadóként dolgozott.
1959-ben és 1960-ban Az év magyar sportolója lett, 1949-ben a Magyar Köztársasági Sportérdemérem arany fokozatával, 1954-ben a Magyar Népköztársaság Érdemes Sportolója címmel tüntették ki. 1990-ben Juan Antonio Samaranch, a Nemzetközi Olimpiai Bizottság (NOB) akkori elnöke személyesen nyújtotta át neki az Olimpiai Érdemrendet, ugyanabban az évben a Budapesti Honvéd Sportegyesület tiszteletbeli örökös tagja lett, és megkapta a BHSE olimpiai emlékgyűrűjét. 1988-ban NOB-emlékjelvényt, 1994-ben MOB Érdemérmet, 1995-ben Olimpiai aranygyűrűt, 1996-ban MOB emlékgyűrűt vehetett át. 1995-ben a Magyar Köztársasági Érdemrend tisztikeresztjével, 1996-ban Köztársasági Elnök Aranyéremmel tüntették ki. 1998-ban Magyar Örökség díjat kapott. 2013-ban beválasztották a Vívó Hírességek Csarnokába. 1965-ben Karddal a világ körül címmel könyve jelent meg.
