Rodák z Newarku, který leží na dohled New Yorku, od čtyř let vystupoval v rádiu, ještě jako dítě se objevil i v divadle a nakonec také v televizní show Star Time Kids. V 60. letech vydal pod pseudonymem Joe Ritch desku a kvůli hře na kytaru v jazzové kapele Starlighters nedostudoval střední školu. Postupně se živil jako dělník, holič, číšník, pošťák, majitel restaurace a příležitostný herec, v první půlce 70. let vytvořil s Frankem Vincentem docela úspěšné komediální duo.
Před kamerou debutoval ve snímku The Death Collector (Výběrčí smrti) z roku 1975 a tehdy zaujal herce Roberta De Nira natolik, že ho doporučil Scorsesemu. Pescimu se zprvu do role v Zuřícím býkovi příliš nechtělo, ale po naléhání se stal De Nirovým filmovým bratrem a manažerem. Jeden z nejlepších filmů osmdesátých let měl úspěch a řada ocenění připadla i Joeovi. Byl nominován na Oscara za vedlejší roli, byl ve finále Zlatého glóbu, britská akademie ho ocenila jako herecký objev.
Oscar za Tommyho DeVita
Cesta k dalším úspěchům ale nebyla lehká – muž s každým okem jiné barvy hrál třeba ve snímcích Tančím, jak nejrychleji dovedu nebo Tenkrát v Americe. Rapidní vzestup popularity mu zajistila Smrtonosná zbraň 2 v roce 1989. O rok později přišla od Scorseseho životní nabídka: zahrál si sadistického Tommyho DeVita v Mafiánech, který se i díky cynickým hláškám stal takřka kultovní postavou, a Pesci si odnesl Oscara. „Je to čest a pocta, děkuji,“ řekl stručně při přebírání ceny – a odešel z pódia.
Další role se Pescimu jen hrnuly. Po Sám doma (1990) hrál v Aldově Betsyině svatbě, v dramatu JFK Olivera Stonea nebo lehce nadprůměrné komedii Můj bratranec Vinny, kde v roli právníka-samouka dokázal, že nemusí být jen přihrávačem hvězd. I přes komediální úspěchy je ale jasné, že Pescimu jdou ze všeho nejlíp syčáci. Po Příběhu z Bronxu (1993) se zaskvěl v dalším výjimečném Scorseseho opusu Casino (1995).
Ve velmi syrové, drsné sondě do světa Las Vegas si zahrál Nicky Santora, inspirovaného skutečným Tonym „Mravencem“ Spilotrem, podezřelým z 22 vražd. Kontroverzi vyvolaly především tři extrémně násilné scény, v nichž je oběti rozmačkána hlava svěrákem či kde Pesci končí pod údery baseballové pálky v kukuřičném poli a je zaživa pohřben. Pikantní je, že vrahem postavy v podání Pesciho byl jeho dlouholetý kamarád Frank Vincent.
Od konce 90. let ale Pesciho kariéra zvolnila tempo, po čtvrtém dílu Smrtonosné zbraně z roku 1998 se už před filmovou kamerou objevil jen čtyřikrát, naposledy ve Scorseseho filmu Irčan (2019). V jak jinak než mafiánském eposu se znovu potkal s Robertem De Nirem – i když zpočátku „dělat zase gangsterku“ odmítal. Poslední dvě dekády se jinak věnoval hlavně muzice, v listopadu 2019 vydal své třetí album, nazvané stručně Pesci... Still Singing.