Sparta, qui a vu le jour en 2001 à El Paso (Texas), est né de la pause des membres du groupe
At The Drive In.
Tony Hajjar (batteur),
Paul Hinojos (guitariste) et
Jim Ward (chanteur, guitariste) s'adjoignent les services du bassiste
Matt Miller (ex Belknap) et partent en tournée. Dès la fin 2001, le groupe a déjà donné une dizaine de concerts à travers le monde. Au printemps 2002, ils sortent un premier single:
Austere et créent leur site internet: www.spartamusic.com. Les quatre acolytes se mettent à écrire et partent pour Vancouver, afin d'enregistrer leur premier album.
The Wiretape Scraps sort dans les bacs. En 2004, Sparta revient avec un nouvel album mixé par
Andy Wallace, intitulé
Porcelain...