Formé en 2002 par Petteri 'Pete' Kilpi. Il s'entourre de Tapio 'Taage' Laiho au chant, d'Aleksi 'Alba' Summe à la guitare, Janne Laaksonen à la basse, Juha 'Kukkis' Kukkola aux claviers et Jussi 'Juzzy' Kattelus à la batterie. Le groupe signe chez MTG, nouveau label créé par un vieil ami de Pete. En février 2003, Kilpi (bouclier en Finnois) enregistre son premier album Sähkönsinistä Sinfoniaa dans le châlet des parents de Pete qu'il a aménagé en studio. Puis le groupe enchaîne les festivals tout en préparant son second album. Fin 2004, Kilpi entame sa première grande tournée finlandaise. A la fin de la tournée, le batteur Janne Karttila quitte le groupe pour se consacrer à sa fille qui vient de naître. Il est remplacé par Jussi 'Juzzy' Kattelus. En 2006, Kilpi participe aux éliminatoires de l'Eurovision 2006, la même année que Lordi. Le groupe termine à la 6ème place sur 12 et la même année sort le troisième album, Kaaoksen Kuningas. En 2010, Taage rejoint le groupe Mad Hatter's Den.