A banda fez uma série de demos em K7, que foram vendidas a um dólar. As primeiras t-shirts oficiais eram azuis com a imagem de um gorila com um skate, e foram pintadas com um marcador.
Gorilla Biscuits fez um Reunion Show no Outono de 1997 no CBGB's em benefício da família do falecido cantor Warzone Raybeez, e mais um show no CBGB's em 14 de agosto de 2005, como um benefício para os custos legais do clube.
Os Gorilla Biscuits foram formados quando Smilios e Nick Drysdale conheceram Civarelli. Estavam na mesma escola em Long Island, Nova York. Eram os três fans de Agnostic Front, e comeceram a ir a shows de hardcore no CBGB's aos fins...