O trio formado em Boston em 1986 por Bill Janowitz (vocais - guitarra), Chris Colbourn (baixo - vocais) e Tom Maginnis (bateria) foi influenciado pelo rock praticado por bandas como Hüsker Dü e Dinosaur Jr. O nome Buffalo Tom foi derivado da banda Buffalo Springfield e do primeiro nome do baterista.
O disco de estréia do trio americano, lançado em 1988 pelo selo SST Records e que tinha apenas o nome do grupo, foi produzido por J. Mascis (Dinosaur Jr). 'Birdbrain', o segundo, saiu em 1990.
Durante os anos 90, o Buffalo Tom "se especializou" em construir belas baladas, como os hits "Taillights Fade" e "Mineral" do álbum 'Let Me Come Over', de 1992, e "Soda Jerk" e "Late at Night", do disco 'Big Red Letter Day', de 1993.
Na sequencia, a banda lançou os discos 'Sleepy Eyed' (1995) e 'Smitten' (1998). Em 2000 saiu a o "best of" 'Asides from Buffalo Tom' e, em 2002, a compilação 'Besides: A Collection of B-Sides and Rarities'.
Depois de quase uma década de inatividade, o Buffalo Tom retornou em 2007 para alguns shows, incluindo participação no South by Southwest Music Festival. Ainda, em 2007, saiu o álbum 'Three Easy Pieces'.
'Skins', o oitavo álbum de estúdio da banda, foi lançado em fevereiro de 2011 pelo próprio selo da banda, o Scrawny Records.