タイトル『Sunrise Over Sea』は、2曲目の「Peaches and Cream」の歌詞から取られている。このアルバムは2004年3月15日に全豪アルバムチャートで初登場1位を記録し、発売初週でゴールドディスクを達成した。
ジョン・バトラーは2004年3月にAPRAアワードで年間最優秀楽曲賞を受賞した。
2004年初頭にARIAシングルチャートに入った。
2004年3月、彼らのルーツとなる ブルース 作品のカバーアルバム『 ホンキン・オン・ボーボゥ 』を発表。共同プロデューサーとしてジャック・ダグラスが『ドロー・ザ・ライン』以来となるアルバム制作に関与した。7月には日本ツアーを開催（広島公演はスティーヴンの怪我により中止された）。ロック・フェスティバル『 POCARI SWEAT BLUE WAVE THE ROCK ODYSSEY 2004 』にヘッドライナーとしても出演した。ツアー終了後は長期休暇をとる予定であることが伝えられた 。
『 Zebra 』EPは2003年12月にリリースされ、
精力的なツアーの結果、バンドはオーストラリアで素晴らしいライブでの評価を築いた。バンドは2003年2月に『Living 2001-2002』をリリースした。この2枚組のライブアルバムは、ARIAアルバムチャートでトップ10デビューを果たし、プラチナセールスを達成した。バトラーは、1997年からの5年間の精力的な活動の後、娘バンジョの誕生のために短い休暇を取った。
2003年、全米でキッスとのジョイントツアーを開催した。
2003年に発表したセカンド・アルバム『テイク・ゼム・オン、オン・ユア・オウン』では、これまでよりダイレクトかつ即効性の強いサウンドを打ち出し、2005年の3作目のアルバム『ハウル』では、 ボブ・ディラン や初期の ローリング・ストーンズ らのような アメリカン・ルーツ・ミュージック 的な音作りに転じた。また、同年に公開された映画『 9 Songs ナイン・ソングス 』に出演し、 プライマル・スクリーム や ザ・ダンディ・ウォーホルズ 、 スーパー・ファーリー・アニマルズ 、 フランツ・フェルディナンド などと並んで劇中のライブ・シーンでパフォーマンスも披露している 。
2003年後半、ジョン・バトラーは、Jo Jo Zep & The Falconsやザ・ブラック・ソロウズのリーダーであるジョー・カミレーリが所有するメルボルンのウッドストック・スタジオに入った。彼はパーカッショニストのニッキー・ボンバとアップライトベース奏者のシャノン・バーチャルからなる新しいバンドを結成した。アルバムのレコーディング後、ボンバは自身のレゲエバンドに戻り、ドラマー/パーカッショニストのマイケル・バーカーに交代した。
バトラー、マネージャーのフィル・スティーブンス、そして同じく西オーストラリアのフォークアーティストであるザ・ウェイフスは、2002年7月にJarrah Recordsを設立した 。