在纽约布鲁克林长大，父亲是一名歌手，他4岁便在广播电台表演，并在父亲鼓励下学习歌唱、表演。1975年他投入影坛，5年后与名导马丁·斯科塞斯展开合作，其中《愤怒的公牛》、《好家伙》两度入围奥斯卡男配角。在极为困难的条件下，拍摄完成了这部被誉为“八十年代最佳影片”的《愤怒的公牛》。马丁·斯科塞斯在影片中充分运用了各种镜头语言，以黑白胶片强有力的视觉效果冲击着每个观众的灵魂。《好家伙》是马丁·斯科塞斯1991年的得意作品，网罗了罗伯特·德尼罗、雷·李奥塔等演技派演员通力合作。乔·派西在片中精彩的表演使得他获得了奥斯卡最佳男配角奖。乔·派西的喜剧出击，如《致命武器》系列、《小鬼当家》系列，亦相当成功。2020年，凭借电影《爱尔兰人》获得第40届伦敦影评人协会奖最佳男配角奖