Още като малко дете през 40-те и 50-те години на миналия век се изявява в радиото и става звезда в детско телевизионно шоу. След това работи като сервитьор и музикант в нощни клубове, а през 60-те прави музикална кариера под псевдонима Джо Ричи. Истинската му звезда обаче изгрява през 70-те години в киното, когато е забелязан от Робърт де Ниро и Мартин Скорсезе. Останалото е история.
Той е живата икона в комедията и гангстерските филми Джо Пеши и на 9 февруари навърши 78 години. За него легендарният американски комик и писател Джордж Карлин казваше, че „изглежда като човек, който може да ви реши проблемите“.
„Той не се мотае наоколо. Всъщност Джо Пеши може да се справи с проблеми, с които дори Господ не може. Години наред се молих на Бог да направи нещо с шумния ми съсед и лаещото му куче, а Джо Пеши се справи с [него] само с едно посещение“, гласи известният цитат на Карлин за колегата му.
Джо Пеши и Шарън Стоун придружават Мартин Скорсезе, който получава звездата си на алеята на славата в Холивуд, 28 февруари 2003 г.
Този имидж на Пеши не е случаен. Въпреки че кариерата му в Холивуд включва някои емблематични комедии като „Сам вкъщи“, „Смъртоносно оръжие“ и „Братовчед ми Вини“, той ще остане в историята на киното най-вече с гангстерските си превъплъщения. Сред тях бяха Томи от „Добри момчета“, Ники от „Казино“, както и Ръсел от „Ирландецът“ – все филми на Мартин Скорсезе.
Именно с него тръгва и дългият път на Джо Пеши в Холивуд. Дебютът му в киното е през 1976 г. в The Death Collector, но сякаш остава незабелязан от критиката. Ролята на Пеши обаче привлича вниманието на Де Ниро, който показва филма на Скорсезе. Така режисьорът решава да го покани в „Разяреният бик“ от 1980 г. Там тримата работят заедно за пръв път, а Пеши получава за ролята си на Джоуи първата си награда – БАФТА за най-добър дебютант, както и номинация за Оскар за поддържаща роля.
Робърт де Ниро и Джо Пеши след прожекцията на "Имало едно време в Америка" по време на филмовия фестивал в Кан, 20 май 1984 г.
Следват роли в „Еврика“ и „Лесни пари“ през 1983 г., а през следващата година е премиерата на „Имало едно време в Америка“ на Серджо Леоне, в който Пеши и Де Ниро отново си партнират. През 1989 г. Джо играе с Мел Гибсън и Дани Глоувър във втората част на „Смъртоносно оръжие“. Филмът има огромен успех и логично Пеши е поканен да участва и в следващите две части през 1992 и 1998 г.
Истинският му успех обаче идва в началото на 90-те, когато е поканен да играе заедно с Робърт де Ниро и Рей Лиота в „Добри момчета“. За ролята си на импулсивния и агресивен мафиот Томи де Вито той получава Оскар и номинация за Златен глобус – за поддържаща роля.
След това играе в „Сам вкъщи“, JFK, A Bronx Tale, „Казино“, „Добрият пастир“ и „Ранчото на любовта“, след който актьорът се оттегля от голямото кино. През 2019 г. обаче Мартин Скорсезе събира Джо Пеши, Ал Пачино, Робърт де Ниро и Харви Кайтел в „Ирландецът“. За ролята си на мафиотския бос Ръсел Буфалино Пеши получава последните си три големи номинации за поддържаща роля – за Оскар, Златен глобус и БАФТА.