První EP album s názvem Five vydala kapela v roce 1998. Obsahovalo

První EP album s názvem Five vydala kapela v roce 1998. Obsahovalo pět písní, které byly všechny znovu vydány, některé na prvním, zbývající na druhém studiovém albu. Své debutové studiové album s názvem Eleven vydala skupina v roce 1999. Druhé album s názvem Wrap Me Up in Plastic bylo vydáno nejprve v roce 2000 a obsahovalo většinu hitů, které pak byly vydány na třetím studiovém albu. V roce 2002 bylo vydáno znovu, v novém vydání ovšem s jinými písněmi, které byly převzaty z předchozích alb kapely. Třetí album s názvem Start Static vydala skupina v roce 2001. Toto album obsahuje hity jako „Pretty Girl“(30. v žebříčku US Alternative Songs), „Bouncing Off The Walls“ (40. v žebříčku US Alternative Songs, 98. v žebříčku UK Singles Chart a „Stuck in America“ (91. v žebříčku UK Singles Chart). V roce 2003 kapelu opustil zakládající člen a bubeník Ben Davis kvůli svým problémům s alkoholismem. Pagnotta po jeho odchodu napsal píseň „Champagne“, ve které zpívá o Davisových problémech, kvůli kterým musel kapelu opustit. Na jeho pozici přišel Kenny Livingston, který hrál původně v kapele Lefty . V březnu roku 2005 doprovodila kapela skupinu Green Day na její cestě po Japonsku . Kytarista DeSantis ale musel vynechat závěrečný koncert, protože jeho manželka právě přivedla na svět jejich první dítě.