A história do Public Enemy começou em 1982 quando Carlton Ridenhour, mais conhecido como Chuck D., ainda estudava na Universidade Adelphi, em Long Island. Na mesma época, Chuck conhece Hank Schocklee e Bill Stephney, com quem dividiu a paixão pelo hip-hop. Shocklee, que na altura gravava uma fita demo, deixou Chuck D fazer um rap sobre uma de suas composições, mais tarde intitulada como "Public Enemy No.1". A demo foi parar nas mãos de Rick Rubin, co-fundador da editora Def Jam, que não hesitou em convidar Chuck para gravar.
Mesmo inseguro, Chuck D aceitou o desafio, e convidou seus amigos (Hank Schocklee e Bill Stephney) para fazerem parte do projeto. Shocklee ficou com o cargo de produtor e Stephney com o de promoção. Mais tarde, eles se juntaram com o DJ Terminator X , além do Professor Griff, que assumiu o cargo de coreógrafo da banda. Para completar a equipe William Drayton também passa a integrar o Public Enemy. William, que adotou o título de Flavor Flav, tinha um inconfundível relógio gigante ao pescoço como marca registrada.
O álbum de estréia da banda dói lançado em 1987 e intitulado "Yo! Bum Rush the Show". O disco foi um grande sucesso sendo considerado por muitos críticos um fenômeno do hip-hop. Um dos fatores mais relevantes para todo esse sucesso era a denominada Bomb Squad, nome dado a equipe de produção dos Enemy que apesar de ser considerada visionária, foi quase ignorada pela massa.
Em 1988, chega às lojas o segundo álbum, "It Takes a Nation of Millions to Hold Us Back". Abordando temas bastante polêmicos como: a política,críticas à mídia e as causas da comunidade negra dos EUA, o disco teve bastante do impacto da cultura do hip-hop. Chuck D, líder da banda, vai se tornando cada vez mais popular com seus discursos ativistas. Uma de suas declarações que ficou marcada foi quando ele diz que "o rap é a CNN da comunidade negra dos guetos".
Em 1989 eles produzem a trilha sonora do filme "Do the Right Thing", de Spike Lee. O filme narra uma história de intolerância e conflitos raciais em uma comunidade multi-étnica no bairro de Bedford-Stuyvesant no Brooklyn, em Nova York. O hit "Fight the Power" é bastante recorrente durante o filme e se torna bastante famoso da comunidade do hip hop.
Os ataques diretos a ícones da cultura branca como Elvis ou John Wayne não caíram bem junto a crítica que até então parecia decidida a abraçar o trabalho do grupo. A situação se agrava ainda mais quando Griff, em entrevista ao jornal "Washington Times" afirmou que os judeus eram responsáveis por grande parte do mal que ocorre no mundo. Depois disso, Chuck D decide despedir Griff, convidando-o a voltar pouco depois, antes de decidir pôr fim aos Public Enemy. Mais tarde, Griff deu uma outra entrevista em que atacou pessoalmente Chuck D e restante banda, o que levou D a voltar expulsá-lo (definitivamente) dos Enemy.
Em 1990, eles lançam "Fear of a Black Planet", que impulsionado pelos hits "Brothers Gonna Work it Out" e "911 Is a Joke" voltam a ter aceitação de público e dessa forma a estar mais presentes na mídia. Um ano depois chega às lojas o álbum intitulado "Apocalypse 91...the Enemy Strikes Back", um disco para o qual a banda regravou o tema "Bring the Noise" juntamente com os Anthrax. O álbum teve sucesso desde seu lançamento e chegou ao quarto lugar na Billboard. Mesmo com participação na turnê "Zoo Tour" ao lado do U2, em 1992, os Enemy começaram a perder notoriedade. Isso, junto com os constantes problemas de Flavor Flav com drogas faz com que a banda fique afastada dos palcos durante o ano de 1993.
Em 1994, eles voltam com "Muse Sick-N-Hour Mess Age", que não teve a mesma recepção do álbum anterior, atingindo o 14º lugar das paradas. Nessa mesma época, Chuck D decidiu pôr fim de uma vez por todas às atividades da banda, aproveitando para investir em sua carreira solo e fortalecer as suas relações com a Def Jam.
Em 1996, Chuck lançou seu primeiro álbum solo intitulado "Autobiography of MistaChuck". Logo depois do lançamento ele anunciour a intenção de lançar um novo disco dos Enemy. O regresso concretizou-se em 1998 com a gravação de "He Got Game", mais uma trilha sonora de outro filme de Spike Lee.
"There's a Poison Going On", chegou às lojas em 1999 depois de já estar disponível na web. Em 2002 veio "Revolverlution", um disco que junta antigos sucessos com algumas faixas inéditas.
Depois de três anos sem nenhum lançamento, a banda lança em 2005 uma coletânea com seus maiores sucesso, além de um novo álbum intitulado "New Whirl Odor". Os últimos lançamentos da banda foram "Rebirth of a Nation" (2006) e "How You Sell Soul To A Soulless People Who Sold Their Soul??? " (2007).