O Dinosaur Jr. foi juntamente com os Pixies um dos principais responsáveis pelo retorno dos solos de guitarra ao rock independente americano (até então dominado pelo pós-punk/hardcore), eles adicionaram grandiosos solos de guitarra, distorção e barulho a um som temperado por letras depressivas, vocais desleixados e riffs melódicos. O Dinosaur Jr. é citado como grande influência além do próprio Pixies, por Sonic Youth, Nirvana e toda uma geração de bandas surgidas nos anos 90.
A medida que a carreira do Dinosaur Jr. ia evoluíndo, a banda ia se tornando um veículo para o líder J Mascis, o único membro constante durante toda a carreira do Dinosaur Jr. e o grande responsável pelas composições da banda, o que teve como resultado o abandono de um som mais hardcore dos primeiros discos para composições mais tranquilas e simples, com muitos ecos de Neil Young.
Os álbuns do Dinosaur Jr. lançados depois de 1990 (quando o "grupo" era basicamente um nome através do qual J Mascis lançava o seu trabalho) não são particularmente revolucionários, ainda que possam ser considerados entre os melhores do rock americano daquela década. Mas são os discos da banda lançados na década de 80 para a gravadora SST que são uma história a parte, infinitamente mais inovadores, de certa forma premeditando o som dito "grunge", e servindo como base para o sucesso comercial do rock altenativo no icício dos anos 90. O próprio Dinosaur Jr. foi beneficiado por esse sucesso, quando a banda se tornou maior do que simplesmente um nome respeitado e cultuado, passando a conquistar um público bem maior.
J. Mascis (guitarra, vocal), formou o Dinosaur Jr. (inicilamente sem o "Jr." no nome) em 1983 em Amherst, Massachusetts, juntamente com seu colega de High School, Lou Barlow (baixo). Mascis inicialmente tocava bateria no Dinosaur, mas logo em seguida passando para a guitarra assim que o baterista Emmett Murph entrou no grupo. Nos próximos dois anos a banda conquistou um pequeno público próprio na sua cidade e em 1985, o trio lançou seu primeiro álbum, Dinosaur, pelo selo independente Homestead. O disco e os shows arrasadores do Dinosaur começaram a chamar a atenção e a banda via seu público aumentar constantemente. No final de 1986, uma banda hippie chamada Dinosaur (que incluia membros do Jefferson Airplane) processou a banda, que assim, acabou mudando o nome para Dinosaur Jr.
Em 1987, o Dinosaur Jr. assinou contrato com a influente gravadora independente SST (de propriedade do Black Flag) e lançou "You're Living All Over Me", que se tornou uma sensação no underground, sendo considerado uma obra prima pela crítica. O estilo do Dinosaur Jr. e particularmente as guitarras distorcidas de J. Mascis passaram a ser muito elogiados por grupos como o Sonic Youth, que por muitas vezes exaltou o Dinosaur Jr. em entrevistas. No início de 1988, eles lançaram o influente single "Freak Scene", uma música que capturava e refletia o espírito do underground americano pós-punk da época. "Freak Scene" se tornou um hit nas college radios, o que abriu caminho para mais um aclamado álbum, "Bug", lançado ainda em 1988. Embora a popularidade do Dinosaur Jr. continuava a aumentar, começavam a surgir tensões entre seus integrantes, principalmente entre Mascis e Barlow, que mal se falavam. Em 1989, Mascis disse a Barlow que o Dinosaur Jr. tinha acabado; mas no dia seguinte ele "re-formou" o Dinosaur Jr., desta vez sem Barlow, que acabou formando a banda Sebadoh, e gerando uma rivalidade de anos entre os dois
Sem Barlow, o Dinosaur Jr. teve vários baixistas temporários, inclusive Van Conner do Screaming Trees, que entrou na banda a convite de Mascis para tocar alguns shows. Em 1989 o grupo teve outro hit com a cover "Just Like Heaven" do The Cure e no ano seguinte, assinaram com a Sire Records (uma subsidiária da Warner). Após "Just Like Heaven", Mascis seguiu um tempo como produtor, quando trabalhou em um álbum do Buffalo Tom e colaborando com amigos como Don Fleming (no projeto Velvet Monkeys) e integrantes do Sonic Youth, antes de gravar o próximo disco do Dinosaur Jr. "Green Mind", o primeiro disco do Dinosaur Jr. por uma grande gravadora, foi lançado em 1991 e foi gravado quase que totalmente por Mascis que tocou todos os instrumentos (com exceção da bateria a cargo de Murph). O estilo variado e eclético do disco foi recebido com frieza pela crítica e pelos circuitos alternativos. Antes da turnê de Gren Mind, Mike Johnson se tornou o baixista da banda. Na turnê, a banda de abertura era o Nirvana, que com o sucesso de Nevermind, em seguida ofuscou o Dinosaur na turnê.
Era o momento da explosão do rock alternativo, mas ao invés de capitalizar em busca do sucesso, o Dinosaur lançou um EP, "Whatever's Cool With Me" no início de 1992 e desapareceu para gravar seu próximo álbum.
"Where You Been" só foi lançado em 1993, mas ainda assim foi beneficiado pelo 'boom' da música alternativa e acabou se tornando o primeiro disco do Dinosaur Jr. a figurar na parada da Billboard, atingindo o número 50, com vendas um pouco inferiores a 500 mil cópias. "Start Choppin'" o principal single do álbum foi um moderato hit nas paradas de rock nos Estados Unidos. Na época de lançamento de "Where You Been" todas as publicações e artigos de imprensa se referiam a J Mascis como um dos principais nomes do rock alternativo e foi um momento de grande prestígio na carreira do Dinosaur Jr.
Ainda em 1993, a banda participou da terceira edição do festival Lollapalooza. Durante o festival, ocorreram novos novos conflitos internos, desta vez envolvendo Mascis e o baterista Murph. Durante as gravações do póximo disco "Without a Sound", Mascis tocou todas as partes de bateria. Mais tarde, pouco antes do disco ficar pronto, ele dispensa Murph do Dinosaur Jr. (Murph acabou ingressando no Lemonheads). O Dinosaur Jr. lançou o disco "Without A Sound" em 1994, que repetiu o desempenho de seu predecessor, graças ao hit "Feel The Pain" (que contava com um videoclip bastante inovador, dirigido pelo conceituado Spike Jonze, e que trazia Mascis jogando golfe pelas ruas de Nova York).
No entando, a recepção da crítica foi bastante dividida com o álbum, com alguns críticos argumentando que o Dinosaur Jr. já não estava no melhor de sua forma. No início de 1995, Mascis se lançou em uma turnê acústica solo, sendo que um desses shows, acabou se tornando o seu primeiro registro solo, "Martin & Me", lançado em 1996.
Após contribuir algumas faixas (inspiradas no estilo de Brian Wilson do Beach Boys) para a trilha sonora do filme "Grace of My Heart" em 1996, Mascis começa a trabalhar sozinho no próximo álbum do Dinosaur Jr., sem a presença do baixista Mike Johnson, que seguiu em carreira solo (além de suas participações nos álbuns solos de Mark Lanegan). O Dinosaur Jr. e seu único integrante lança o disco "Hand It Over" em 1997, que foi considerado o melhor trabalho de Mascis em vários anos. No entanto, o disco não trazia nenhum hit e acabou ignorado pelo grande público.
Pouco tempo depois, Mascis anuncia o fim do Dinosaur Jr. e passa um recluso tempo recluso.
Ele retorna à ativa somente em 2000 com seu segundo trabalho solo, acompanhado de uma banda batizada como The Fogs, que consistia em Kevin Shields (My Bloody Valentine) e Bob Pollard (Guided By Voices). O disco chama-se "More Light", foi lançado pelo selo independente Ultimatum, e sua sonoridade e bastante semelhante ao trabalho mais recente do Dinosaur Jr. J Mascis + The Fog partem para uma turnê pelos Estado Unidos, para essa turnê, Mascis é acompanhado do baixista Mike Watt (do Minutemen, Firehose e artista solo).
Em 2000 também é lançado o álbum de raridades do Dinosaur Jr., "Live At The BBC", extraídos de apresentações ao vivo para a emissora inglesa BBC.