Jeff Buckley passou a sua adolescência a ouvir diversos tipos de música como blues, rock e jazz. Após terminar o colegial, decidiu que a música seria o caminho a seguir. Com medo de ser comparado com o seu pai, Tim Buckley, em vez de cantar, Jeff decidiu inicialmente tocar guitarra, tendo ido estudar para o G.I.T (Guitar Institute of Technology). Diversas experiências vieram de seguida: Jeff trabalhou em estúdio, tocou em bandas de funk, jazz e punk e até mesmo na Banana Republic, de onde foi demitido após ter sido acusado de roubar uma T-shirt.
Em 1991, ao ser convidado para participar num show tributo a seu pai, Jeff resolveu cantar. A semelhança vocal com o pai (Tim Buckley) veio à tona nesse momento. Foi nesse tributo, também, que conheceu o ex-guitarrista da banda Captain Beefheart, Gary Lucas, que, impressionado com sua voz, decidiu convidá-lo para integrar a banda Gods and Monsters. Afiada tanto nas performances ao vivo como nas composições próprias, Gods and Monsters estava prestes a assinar com uma discográfica quando Buckley decidiu abandonar o projeto por achar que um contrato, naquele momento, restringiria as suas ambições musicais.
No ano seguinte começou a apresentar-se sozinho (voz e guitarra) num bar nova-iorquino chamado “Sin-é”. Foi no "Sin-é", segundo o próprio Jeff, onde mais tocou e gostava de tocar. Um lugar pequeno, onde as pessoas iam para conversar e não para ouvir alguém cantar músicas desconhecidas. Mas foi pela diferença que Jeff Buckley conquistou as pessoas que frequentavam o lugar. Foi nesse pequeno bar, sem palco, que um dos empresários da Columbia o viu cantar e tocar. Em outubro de 92 assinou com a Columbia Records para a gravação do seu primeiro álbum solo. Antes do álbum, Jeff decidiu fazer uma tourné pela Europa, só depois gravaria o primeiro álbum em estúdio. Nesse periodo, acordou também, lançar um Ep com 5 músicas, gravadas no "Sin-é".
“Grace” chegou às lojas em agosto de 1994 e foi imediatamente aclamado pela crítica e por artistas como Paul McCartney, Chris Cornell, Bono Vox (“Jeff Buckley é uma gota cristalina num oceano de ruídos”) e Jimmy Page (“Quando o Plant e eu vimos ele tocando na Austrália, ficamos assustados. Foi realmente tocante”). Apesar disso e de uma longa tourné de dois anos “Grace” vendeu muito menos do que o esperado. A música de Buckley era considerada leve demais para as rádios alternativas e pouco comercial para as rádios FM.
Em 1996, começou a trabalhar no seu segundo álbum e, contrariando a sua gravadora, que queria um disco mais comercial, chamou Tom Verlaine, do grupo Television, para a produção. Quando as gravações estavam prestes a encerrar, Jeff, insatisfeito com o resultado, decidiu que o material não deveria ser lançado e, assim, começou a compor novas canções. Foi o que fez até Maio de 97, quando finalmente chamou os colegas da sua banda para começar as gravações em Memphis, cidade onde morava na época.
No dia 29 de Maio de 1997, helicópteros sobrevoavam o Wolf River em busca duma pessoa que ali havia desaparecido. Segundo o relato do amigo Keith Foti, Jeff Buckley resolveu parar para nadar naquele rio antes de se encontrar com a sua banda. Depois de alguns minutos, Foti foi até ao carro para guardar alguns objectos, enquanto ouvia Jeff a nadar cantarolando “Whole Lotta Love”. Quando voltou, não viu mais nada. Gritou por “Jeff” por quase dez minutos e, não obtendo resposta, decidiu chamar a polícia. O corpo de Jeff Buckley foi encontrado apenas uma semana depois, dia 4 de Junho, perto da nascente do Mississippi.
O álbum póstumo, “Sketches for My Sweetheart the Drunk”, foi lançado em 1998. “Sketches” é composto por gravações que Jeff fez com Tom Verlaine, mais músicas nas quais Jeff trabalhava antes de morrer.
Em 2000, “Mystery White Boy” veio relembrar Jeff nas suas performances ao vivo.
Em 2007 surge uma compilação com os melhores êxitos de estúdio e ao vivo, este álbum contém uma versão acústica de "So Real" gravada no Japão e uma versão de "I Know It's Over" dos The Smiths nunca antes editadas.
Apesar da morte trágica, Jeff Buckley tem vindo a conquistar novos fãs. Artistas como Radiohead, Coldplay e Muse não se cansam de mencionar Jeff como uma das suas principais influências. Além disso, “Grace” é constantemente citado como um dos melhores álbuns de todos os tempos.