As raízes da banda foram em São Paulo, com Janires, Lurdinha, Mike e Carrá. A primeira apresentação aconteceu em 1979, quando houve um boicote geral das igrejas da época por julgarem Janires e seu grupo como hereges. Mas ainda assim, o grupo venceu o preconceito e seguiu em frente.
No início da década de 1980, Janires foi para o Rio de Janeiro. Na cidade maravilhosa conheceu o tecladista Pedro Braconnot, o baterista Kandell Rocha, o guitarrista André Marien e o baixista Paulo Marotta e formou um novo Rebanhão. Mas foi juntamente com o vocalista e guitarrista Carlinhos Félix, com o percursionista Zé Alberto, Pedro, Paulinho e Kandell que Janires gravou o primeiro disco da banda no Rio de Janeiro, em 1981, com o título de Mais doce que o mel.
A banda Rebanhão se manteve até o ano de 1999 e passou por várias mudanças no decorrer do tempo. Em 1984 quem se despediu foi o pioneiro Janires, que se mudou para Belo Horizonte, onde formou a Banda Azul. Ainda início dos anos 80 saíram o baterista Kandell e o percursionista Zé Alberto. Nesta mesma época integrou-se no grupo o baterista Fernando Augusto (Tutuca). A banda se manteve com a mesma formação até o início dos anos 90, quando Tutuca, Carlinhos Félix e Paulinho Marotta deixaram a banda.
Após esse período passaram pela banda vários músicos. Em 1994 a formação era: Pedro Braconnot (teclados e voz), Pablo Chies (guitarra), Murilo Kardia (baixo), Dico Parente (violão e voz) e Rogério (bateria). A última formação contou com Pedro Braconnot (teclados e vocal); Rafael Fariña (bateria); Ismael Maximiano (guitarra e vocal);Fábio Carvalho (baixo e vocal).