Formé en 1984 à Middletown, Connecticut. La formation initiale se compose de Kachinsky à la guitare, Gary Stocking au chant, Wayne Faircloth à la basse et Harry Blackwell à la batterie. Blackwell et Stocking quittent le groupe à la fin 85. John Tarascio rejoint alors le groupe en tant que batteur et décide avec Steve Kachinsky de partir s'installer à Los Angeles. Après le déménagement en 87, Kachinsky et Tarascio reconstituent le groupe avec Vince Dennis à la basse, Scott Lindsenbardt au chant et Domenic Chavira à la guitare. Scott est rapidement remplacé par Nick Mantis puis par Rick Mythiasin. Chavira quitte le groupe à peu près au même moment et est remplacé par Jon Paget. En 1990, après la sortie de la démo 'Inner Ascendance', Paget est remplacé par Horacio Colmenares. Le succès de cette démo conduit le groupe à sortir son premier album 'The Goddess Principle' en 1995. Un an plus tard, le groupe sort un EP intitulé 'Continuum'. Par la suite, Tarascio et Colmenares sont remplacés par le batteur Pete Parada et le guitariste Jon Pons. En 1997, le groupe sort son deuxième album studio 'Into the Void (Hallucinogenic Conception)'. Malgré un changement de style, les critiques leur sont favorables et le groupe signe avec le label Nuclear Blast. Début 1999, Steel Prophet sort son troisième album studio 'Dark Hallucinations' suivi début 2000, de l'album 'Messiah'. Le groupe connaît un nouveau changement avec le départ de Jon Pons remplacé par Jim Williams. 'Book Of The Dead' sort début 2001 puis 'Unseen' en 2002. En raison de divergences créatives, le chanteur Rick Mythiasin quitte la formation en juin 2002 pour se consacrer entièrement sur son projet de groupe, Taraxacum. En 2004, le nouveau chanteur s'appelle Nadir D`Priest. Peu de temps après, sort leur septième album 'Beware' chez Nightmare Records. L'album reçoit de bonnes critiques même si le style de la musique et le style vocal de D'Priest marquent une différence. Peu de temps après, l'ancien bassiste de Hellion, Glenn Cannon se joint à la formation tandis que Vince Dennis (Vincent Price) est en tournée avec le groupe 'Body Count'. En 2005, Bruce Hall du groupe Agent Steel, devient leur nouveau chanteur mais aucun album et aucun concert ne se fait avec lui. Le 8 août 2015 et après la sortie de l'album 'Omniscient', Rick Mythiasin annonce sur sa page Facebook qu'il n'est plus dans Steel Prophet. Il est remplacé par Roberto Dimitri Liapakis du groupe Mystic Prophecy .