Fat Joe, também conhecido como Fat Joe da Gangsta, Cook Coke, Joey Crack, ou Crack, nasceu Joseph Cartagena, em 19 de Agosto de 1970, dentro de uma tradição Porto-riquenha e Cubana. Contudo, Joe nasceu e cresceu no Bronx. Fat Joe foi muito popular na cena do Rap Underground no começo dos anos 90. Durante esse período, Joe se uniu a KRS-One, seu parceiro de rap e graffiti. Ele também foi membro do grupo "Digging in the Crates Crew", que tinha rappers respeitados como Diamond D, Lord Finesse, O.C., A.G., Buckwild, e os falecidos Big L e Big Pun.
Depois de fazer parceria com o não menos respeitado rapper do Bronx, Big Pun, Joe conheçou o sucesso através dos duetos "I'm Not a Player", que se tornaria mais popular em sua versão remix, "Still Not a Player". Seu single "Bet Ya Man Can't", lançado em 1998, e continha participação de Big Pun e de outros membros do grupo Terror Squad, como Cuban Link e Triple Seis, não chegou a fazer tanto sucesso. Pouco depois da morte de Big Pun, foi lançado o single "Feelin' So Good", que foi hit no primeiro álbum de Jennifer Lopez e que continha participação de Big Pun e Fat Joe.
Com o lançamento de J.O.S.E. (Jealous Ones Still Envy), em 2001, Joe lançou dois hits de sucesso, "We Thuggin", com a participação do super astro do R&B, R. Kelly no refrão e "What's Luv" com a cantora de R&B Ashanti. A música foi um dos maiores hits pop de 2002.
No fim de 2002, Joe lança o álbum Loyalty, que teve alguns hits não muito expressivos, como "Crush Tonite" e "All I Need". O rapper apareceu em alguns filmes, incluindo "Empire", lançado em 2002, com participação de John Leguizamo e Peter Sarsgaard.
Fat Joe também é membro do grupo Terror Squad, que lançou seu primeiro álbum em 21 de Setembro de 1999. Depois de algumas mudanças, incluindo a saída de Triple Seis e a expulsão de Cuban Link, o grupo lançou um segundo álbum, intitulado True Story, em Julho de 2004. O álbum continha o hit de verão "Lean Back", que foi remixado mais tarde por Lil' Jon, com um novo verso de Fat Joe, além de participações de Eminem, Ma$e, e Lil Jon.
Em Setembro de 2004, um guarda-costas de Fat Joe foi preso, acusado de cometer um assassinato em 1994. A participação de Fat Joe no ocorrido foi investigada, mas nada aconteceu com ele, pois teria cooperado com as autoridades., o que fez com que alguns fãs acreditassem que Joe teria virado um informante da polícia.
No final de 2004, Fat Joe fez sucesso com outro hit nas rádios, através de sua parceria com Ja Rule em "New York", que também continha participações de Jadakiss. 50 cent acreditava que todos que faziam parceria com seu rival Ja Rule estavam contra ele. O novo solo álbum de Fat Joe, All or Nothing, inicialmente programado para sair na primavera de 2005, foi adiado (supostamente porque faltavam alguns ajustes, mas a realidade é que os executivos da Interscope não queriam que o álbum de Joe competisse com o lançamento de um álbum do rapper 50 Cent). O álbum foi lançado em Julho de 2005. O primeiro single, "So Much More", foi lançado nas rádios e nos programas de vídeo clips. O vídeo continha participação de DJ Kay Slay, que se auto denominava, "O Fat Joe negro". O segundo single, "Get It Poppin", teve participação de Nelly e também teve um clip lançado.
50 Cent atacou Fat Joe em sua música "Piggy Bank", do álbum "The Massacre", por causa da parceria entre Fat Joe e seu rival Ja Rule, (especificamente por causa de sua parceria com Ja Rule na música "New York", do álbum R.U.L.E.).
Fat Joe começou a por em dúvida a credibilidade de 50 Cent nas ruas, chegando a oferecer $1,000,000 por uma foto de 50 cent em uma boate. A resposta de Fat Joe a música "Piggy Bank" veio através de uma faixa que continha vários títulos, "Fake Gangsta", "Fuck 50", ou simplesmente "Fat Joe 50 Dis track". A música foi então lançada oficialmente com o título de "My Fofo" (uma referência a Magnum .44), no álbum "All or Nothing", que também continha um remix de "Lean Back", com Eminem, que ironicamente era o mentor de 50 Cent.
Depois disso, Fat Joe não tocou mais no nome de 50 Cent em nenhuma outra música, dando a impressão de que teria dado o assunto por encerrado. Contudo, no MTV Video Music Awards de 2005, Fat Joe provocou 50 Cent antes de entregar um prêmio para Missy Elliot. "Eu gostaria de dizer para as pessoas que estão presentes que estou me sentindo muito seguro esta noite, com a proteção da polícia, cortesia da G-Unit..."
50 cent tentou invadir o palco mas foi contido por seguranças. Depos de fazer o comentário, Fat Joe, foi posto pra fora do VMA. Pouco depois, 50 cent disparou impropérios contra ele durante sua apresentação, mas Joe não estava mais no local para conferir pessoalmente.