All We Know Is Falling foi o álbum de estréia de Paramore pela Fueled By Ramen, que marcou a chegada de uma nova e encantadora banda de rock. Movimentada por melodias flexíveis, que capturavam a atenção, a estréia tornou-se inapagável.
Cantando e escrevendo músicas para concursos de talentos e comerciais locais, a vocalista, na época com 13 anos, embarcou na banda quando mudou-se de Mississippi para Tennessee, conhecendo então os irmãos Farro - o guitarrista Josh e o baterista Zac - que abriram seus horizontes musicais. A banda, que agora introduzia o vizinho de Hayley, Jason Bynum, na guitarra base, e o antigo colega de banda, Jeremy Davis, no baixo, adotou o nome Paramore e começou a tocar e gravar quase imediatamente.
Tocaram em encontros locais, shows de talentos no colégio e logo começaram a tocar em points de rock em Franklin e por perto de lá. John Janick, fundador da gravadora Fueled By Ramen, disse que já queria produzir o cd do Paramore antes mesmo de conhecer os integrantes. Depois desse encontro, em Março de 2005, a banda se mudou para Orlando, Florida, e se dedicou totalmente à música por alguns meses, trabalhando com os produtores James Wisner (Dashboard Confessional, Further Seems Forever, Underoath) e Mike Green (Yellowcard, The Black Maria).
A banda também alistou o baixista John Hembree para preencher uma posição vazia que Jeremy Davis havia deixado. Um pouco depois do lançamento do CD, John Hembree deixou a banda e Jeremy Davis voltou para seu posto de origem. Infelizmente, um pouco após o clipe da música Pressure, no final de 2005, Jason Bynum deixou a banda. Assim, Hunter Lumb, um antigo amigo entrou em seu lugar.
Por volta do dia 13 de março de 2007, na época de gravação do segundo CD, RIOT!, foi postado no livejournal da banda a perda de mais um membro, Hunter Lumb, que deixara a banda por motivos familiares. Até então, não fora substituido oficialmente. Taylor York, guitarrista e antigo amigo da banda que ajudara na gravação do All We Know Is Falling, toca em seu lugar apenas nos shows da banda.
Josh Farro começou a escrever uma musica por acaso e Hayley Williams achou a letra meio que sombria e o ajudou com o desenvolvimento da musica, juntaram suas idéias e escreveram uma nova música chamada “Decode” especialmente para a trilha sonora do filme Twilight (Crepúsculo, em português) baseado no primeiro livro da série de Stephenie Meyer. Aqui no Brasil, o filme tem estréia para o dia 19 de dezembro e ainda conta com uma segunda música da banda, “I Caught Myself” que tem lançamento oficial previsto para 4 de novembro.