Início da carreira
Participou efetivamente junto com Roberto Carlos e com Wanderléa do programa Jovem Guarda onde tinha o apelido de Tremendão, imitando as roupas e o estilo de seu ídolo Elvis Presley. Seus maiores sucessos como cantor nessa fase foram "Gatinha Manhosa" e "Festa de Arromba". Com o término do movimento, entrou em crise, mas conseguiu se recuperar com a ajuda de seu parceiro Roberto Carlos e de sua esposa, Narinha. Nessa fase de transição fez sucesso cantando "Sentado à Beira do Caminho" e "Coqueiro Verde".
O disco Erasmo Carlos e Os Tremendões já é um trabalho transitório na carreira do artista. O LP, de 1969, traz interpretações muito peculiares de canções de compositores da MPB, como "Saudosismo", de Caetano Veloso e "Aquarela do Brasil", de Ary Barroso (lançada no filme Roberto Carlos e o Diamante Cor-de-rosa em que Erasmo atua com Roberto e Wanderléa) e "Teletema" (canção originalmente interpretada por Regininha, sucesso por ter sido tema da novela Véu de Noiva, da Rede Globo), de Antônio Adolfo e Tibério Gaspar, além da primeira gravação de "Sentado à Beira do Caminho".
Na década de 1970, Erasmo assina com a Polygram. A primeira metade da década mostra o Tremendão num estilo bem diferente da Jovem Guarda. Influenciado pela cultura hippie e pelo soul, lança Carlos, Erasmo em 1971. O disco, que abre com "De Noite na Cama", escrita por Caetano Veloso especialmente para ele, traz uma polêmica ode à maconha, em "Maria Joana".
O existencialismo prossegue em seus outros LPs dos anos 70: 1941-1972 - Sonhos e Memórias, 1990 - Projeto Salvaterra e Banda dos Contentes. "Sou uma Criança, Não Entendo Nada", "Cachaça Mecânica" e "Filho Único" são algumas canções de destaque no período. Pelas Esquinas de Ipanema, seu LP de 1978, inclui uma impactante canção que denuncia o descaso do homem com a ecologia: "Panorama Ecológico".
Em 1971, participa do filme Roberto Carlos a 300 Quilômetros por Hora, de Roberto Farias.
Erasmo Carlos começa os anos 80 com um projeto ambicioso. Erasmo Carlos Convida... é um pioneiro projeto no Brasil. Foram 12 canções interpretadas em dueto com artistas como Nara Leão, Maria Bethânia, Gal Costa, Wanderléa, A Cor do Som, As Frenéticas, Gilberto Gil, Rita Lee, Tim Maia, Jorge Ben e Caetano Veloso. A faixa de abertura do álbum foi a que teve maior destaque nas rádios: "Sentado à Beira do Caminho", com Roberto Carlos.
No ano seguinte, o LP Mulher tem uma grande repercussão com as canções "Mulher (Sexo Frágil)" (escrita com sua mulher, Narinha), "Pega na Mentira" e "Feminino Coração de Deus" (de Sérgio Sampaio). O sucesso na mídia, que continuou com Amar Pra Viver ou Morrer de Amor (1982), trouxe uma cobrança para Erasmo: assim como o parceiro Roberto Carlos (no auge do sucesso), ele deveria lançar um trabalho inédito todos os anos. "Lentinha, para tocar no rádio", como disse o cantor ao relembrar seus discos na época. Embora seja a década com mais lançamentos de trabalhos novos, Erasmo tem algumas ressalvas sobre os seus discos a partir da segunda metade da década - Buraco Negro (1984), Erasmo Carlos (1985), Abra Seus Olhos (1986) e Apesar do Tempo Claro... (1988). O disco de 1988 seria seu último na Polygram.
Valendo-se ainda do filão engajado da pós-ditadura, cantou, ainda que numa participação especial diminuta, no coro da versão brasileira de "We Are the World", o hit americano que juntou vozes e levantou fundos para a África, ou USA for Africa. O projeto Nordeste Já (1985), abraçou a causa da seca nordestina, unindo 155 vozes num compacto, de criação coletiva, com as canções "Chega de Mágoa" e "Seca d´Água". Elogiado pela competência das interpretações individuais, foi, no entanto, criticado pela incapacidade de harmonizar as vozes e o enquadramento de cada uma delas no coro.
Em 1989, ele ainda faria o álbum ao vivo Sou uma Criança, com participações de Léo Jaime e dos grupos Kid Abelha e João Penca e Seus Miquinhos Amestrados e lançados pela pequena gravadora SBK.
Nos anos 90, o trabalho de Erasmo apareceu de forma bissexta na canção. Além de sempre assinar com Roberto Carlos as canções feitas para seus discos anuais, ele lançou dois discos. Homem de Rua, lançado pela Sony Music em 1992, chegou a ter repercussão com a faixa-título, que fez parte da trilha da telenovela De Corpo e Alma, mas a canção era tema do personagem de Guilherme de Pádua, que, ao lado da esposa Paula Tomás, assassinou a atriz Daniela Perez, num crime que chocou o país. Outra gravação de destaque foi "A Carta", na qual Erasmo cantou com Renato Russo.
Em 1995, ele voltou a ter destaque nas comemorações dos trinta anos da Jovem Guarda, que rendeu discos e shows. No ano seguinte, Erasmo gravou o álbum É Preciso Saber Viver, com regravações de canções de seu repertório. O destaque foi para "Do Fundo do Meu Coração", dueto com Adriana Calcanhotto.
Somente em 2001 Erasmo voltaria a lançar um disco novo. Pra Falar de Amor traz interpretações dele para canções apenas suas, além de cançòes de Kiko Zambianchi e Marcelo Camelo. O destaque é "Mais um na Multidão", dueto com Marisa Monte e de autoria de Erasmo Carlos, Marisa Monte e Carlinhos Brown. No ano seguinte, ele lançou seu primeiro DVD ao vivo, além de um CD duplo.
No início de 2004, ele lançou seu trabalho mais autoral: Santa Música, com doze canções de autoria apenas de Erasmo Carlos. Além da faixa-título, destaca-se a faixa "Tim", feita em homenagem a Tim Maia.
Em 2007, Erasmo novamente lançou um disco no qual recebe convidados. Erasmo Carlos Convida, Volume II apresenta novos encontros musicais em que Erasmo interpreta parcerias dele com Roberto. Adriana Calcanhotto, Lulu Santos, Simone, Marisa Monte, Milton Nascimento e as bandas Skank e Los Hermanos estão entre os convidados. A faixa de maior destaque nas rádios é "Olha", cantada com Chico Buarque, e tema da novela das 21 horas, Paraíso Tropical, da Rede Globo.
Também em 2007, Erasmo compôs a faixa de abertura de SóNós, o segundo disco-solo da vocalista do Kid Abelha, Paula Toller.