De certa forma, o Gallhammer começou em 2002, visto que a líder Vivian (vocais, baixo) havia começado uma nova banda, embora sua estréia só aconteceu em Fevereiro de 2003. Risa (bateria) e Mika (guitarra) juntaram-se ao grupo, mas ambas só haviam trabalhado como vocalistas anteriormente, assim como Vivian, e nenhuma sabia como tocar instrumentos. Além disso, nenhuma também tinha uma história na cena black metal - elas haviam feito parte de bandas de diferentes estilos, como grindcore, noise e avant-garde.
A primeira fita demo do grupo foi lançada em Março de 2003, como também foi distribuída gratuitamente em seu primeiro show no Koiwa Death Fest Vol.2. No início, elas tocaram covers de Hellhammer e Amebix devido à devoção que tinham por ambas. O primeiro álbum completo, Gloomy Lights, foi lançado no dia 11 de Novembro de 2004 pelo selo japonês Hello From The Glutter; sua primeira prensagem foi esgotada, mas logo uma segunda foi lançada na Finlândia e no Méximo.
O sucesso levou a banda à Europa, onde o selo britânico Peaceville ficou interessado em sua música. O Gallhammer assinou um contrato para seu álbum seguinte, mas antes de lançarem-no, elas lançaram uma sedutora coletânea, Damn of..., que incluía não só músicas selecionadas cuidadosamente, mas também uma boa quantidade de material em vídeo dos anos passados. Este aperitivo foi lançado em Janeiro de 2007, enquanto o álbum de inéditas era esperado para sair no decorrer do ano. Em Setembro, o Gallhammer deu início à sua turnê promocional européia, que incluiu Reino Unido, Holanda, Noruega, Bélgica e Finlândia, e que também viu apresentações conjuntas com a banda de doom metal Church of Misery em dois shows.