Em 2004 foi lançado o álbum intitulado Around the Sun , com letras

Em 2004 foi lançado o álbum intitulado Around the Sun , com letras politizadas, refletindo a tensão que os Estados Unidos viviam por conta das eleições presidenciais, e sonoridade mais acústica (a despeito de alguns elementos eletrônicos). Durante a produção do álbum em 2002, Stipe afirmou: “[O álbum] soa como se estivesse decolando do último par de discos para um território inexplorado. Primitivo e barulhento”. Após o lançamento do álbum, Mills disse: “Eu acho, honestamente, que acabou ficando um pouco mais lento do que nós pretendíamos, apenas em termos da velocidade geral das músicas”. Around the Sun recebeu uma crítica moderada e alcançou o 13º lugar na Billboard. O primeiro single do álbum, “ Leaving New York ”, ficou em 5º nas paradas britânicas. Para o álbum e a turnê subsequente, a banda contratou um novo baterista de turnê em tempo integral, Bill Rieflin, que anteriormente havia sido membro de vários outras bandas como Ministry e Pigface . O vídeo-álbum Perfect Square foi lançado naquele mesmo ano.