A miskolci születésű sportember volt az egyetlen olyan játékos, aki öt olimpián szerepelt, ráadásul mind az ötön éremmel gazdagodott: Helsinkiben, Melbourne-ben és Tokióban arannyal, Londonban ezüsttel, Rómában pedig bronzzal, s lett ezzel minden idők legeredményesebb pólósa. Kétszer volt Európa-bajnok csapat tagja is, kétszeres főiskolai világbajnok, nyolcszoros magyar bajnok, a válogatottban 108 alkalommal szerepelt.
Münchenben, 1972-ben Rajki Béla segítőjeként ténykedett, majd négy évvel később, Montrealban már mint szövetségi kapitány vezette olimpiai bajnoki címig a magyar csapatot, amellyel nyert többek között vb-t, két Eb-t, s Világkupát is. Edzőként több klubcsapatnál dolgozott, itthon és külföldön egyaránt. 1992-től a Magyar Vízilabda Szövetség (MVLSZ) alelnöke, 1996-tól társelnöke volt.
Politikusként 1990 és 1994 között az MDF országgyűlési képviselője volt, majd 2003-ban a Fidesz kulturális tagozatában a sportszekció elnöke lett. Első felesége a szintén olimpiai bajnok úszó, Székely Éva volt, lányuk, az úszó Gyarmati Andrea Európa-bajnokságot nyert, olimpiai ezüstérmet szerzett. Unokája, Hesz Máté válogatott vízilabdázó lett, míg Szilágyi Liliána úszásban képviselte a magyar színeket tavaly a londoni olimpián.
Kitüntetései, erkölcsi elismerései közül kiemelkedik az 1994-ben megkapott Magyar Köztársasági Érdemrend középkeresztje, illetve a Magyar Köztársasági Érdemrend nagykeresztje, amit 2010-ben ítéltek oda neki. 2004 óta volt a Nemzet Sportolója.
Gyarmati Dezső temetéséről a család és a Magyar Vízilabda Szövetség (MVLSZ) a későbbiekben intézkedik - olvasható az MVLSZ honlapján.
Láng Zsolt, a II. kerület polgármestere közleményben tudatta, hogy a kerületi önkormányzat a saját halottjának tekinti Gyarmati Dezsőt. A képviselőtestület 2011-ben választotta a 40 éve a kerületben lakott sportembert a II. kerület díszpolgárává.