A kifejezetten jóképű, göndör üstökű kapus 1953-ban született Lebbekében, és első profi klubja a Beveren volt. 1982-ben igazolta le a Bayern München (400 ezer mai euró értékű nevetséges összegért), és itt egészen 1988-ig védett, majd egy rövid hazai kitérőt követően (Lierse) a török Trabzonsporban vezetett le. A Bayernnel az otthoni egy-egy bajnoki címhez és kupagyőzelemhez még hármat, illetve kettőt gyűjtött, és szerepelt egy Bajnokcsapatok Európa-kupája fináléban is. 1987-ben az IFFHS őt választotta meg az olasz Walter Zenga és a szovjet Rinat Daszajev előtt a világ legjobb kapusának, 1978-ban pedig odahaza volt az év játékosa. 2002-ben a világbajnokságok történelmének 10. legjobb kesztyűs emberének választották, Pelé pedig beszavazta nem sokkal később a legjobb 125 élő labdarúgó közé, hazájából Jan Ceulemansszal és Franky Van Der Elsttel egyetemben.
A kiváló reflexeiről és rettenthetetlen-kegyetlen kijöveteleiről közismert kapus a Bayernben összehozott egy máig élvezhető öngólt a Werder Bremen ellen, amikor is Uwe Reinders egy bedobásból vette be kapuját, a belga hathatós segítségével; egy PAOK elleni UEFA-kupa-mérkőzésen viszont értékesítette a maga labdáját az orosz rulett 10. körében. A bajoroknál egyébként együtt dolgozott egy ideig a kiváló edzővel, Csernai Pállal, és Belgiumban jó barátságot kötött az Anderlecht gólkirályával, Ladinszky Attilával.
Világhíres a belga válogatottnak köszönhetően lett, ahol 64 alkalommal lépett fel, két-két világ és Európa-bajnokságon megfordulva. A „vörös ördögök" az 1980-as kontinenstornán robbantak be a nemzetközi elitbe a Jan Ceulemans, Éric Gerets, Pfaff, Erwin Vandenbergh négyes főkolomposságával.
Guy Thys kapitány erre az Eb-re tökéletesítette a lescsapdát, amely őrületbe kergette az ellenfeleket, és a támadásokkal sem álltak éppen hadilábon. Az említett Eb-n például rögtön finálét játszottak Pfaffék, az 1982-es spanyolországi vb-n a csoportmérkőzések során a magyarokat is kiejtették (vezettünk 1–0-ra, amikor a 64. percben Fazekas László ziccerbe került, azonban érkezett Jean-Marie, és paff, kegyetlenül leterítette a támadót; a piros lap azonban elmaradt; később a belgák kiegyenlítettek és kiestünk). Némi fegyelmezetlenség miatt a mérkőzés után kitették a keretből, egy hotelbeli akciójának jutalmaképpen, de 1986-ban már nem mulasztott: az ő remeklésének is köszönhetően jutott el a negyedik helyig a vörös had.
Visszavonulása után fellépett különféle gála- és jótékonysági mérkőzéseken, volt több világmárka reklámarca, az első szabadrúgáslövő-vb egyik zsűritagja, flamand és német kevert nyelven előadott mérkőzés-kommentárjai nagy népszerűségnek örvendenek ma is. Nemzetközi ismertségét és könnyed személyiségét, nyelvtudását kihasználva az EURO2000 nagykövete volt, és hasonló beosztásban dolgozik a 2018-as holland-belga vb- a 2020-as török Eb-rendezésért küzdő csapatban. Egy mozifilmben (Tökkelütött trió) is szerepelt, a német dumagép Thomas Gottschalk, a Rendőrakadémia-sorozat hangeffekt-embere, Michael Winslow és a Winnetou-sorozatból közismert Pierre Brice oldalán.
Végül főállásban a kommunikációs ágazatban helyezkedett el, és több cégnél is dolgozik: előadásokat, tréningeket, workshopokat tart. A médiától sem tudott elszakadni, hiszen 11 szappanoperában szerepelt és családjával a fő- és címszerepben egy valóságshow-t is készített; de jótékonykodásra és egy fürdőruha-sorozat kitalálására is maradt ideje. Természetesen a labdarúgás világában is kipróbálta magát, dolgozott PR-menedzserként a Beverennél, kapusedzőként pedig akár önök is megrendelhetik szolgáltatásait a jeanmariepfaff.com oldalon.
