Groupe formé par Henrik Ostergaard juste après le split de Dirty Looks en 1993. Le premier album éponyme sorti en 93 est enregistré avec du matériel , des titres et des membres de Dirty Looks. Avec l'arrivée du guitariste Mike Smith (futur Bizkit et Evolver), du bassiste Jassen Wilber, de Ron Sutton à la batterie et la contribution de Paul Lidel et Mike Ondrusek (ex-Dirty Looks), l'album The Drowning Pool sorti en 95 montre une évolution dans le style plus proche du son de l'époque. L'album reprend le titre de Ram Jam "Black Betty". En 97, 3 membres de Rumbledog : Sutton, Wilbur et Smith forment le groupe Burning Orange. Le 27 janvier 2011, Henrik décède à l'age de 47 ans.