I 2003 gav Warner Bros. Records ut samlealbumet In Time: The Best of

I 2003 gav Warner Bros. Records ut samlealbumet In Time: The Best of R.E.M. 1988-2003 , som også hadde med to nye sanger, «Bad Day» og «Animal». Samme år dukka Berry overraskende opp under en R.E.M.-konsert i Raleigh i Nord-Carolina , der han sang støttevokal på sangen «Radio Free Europe». Siden satt han seg bak trommesettet for å spille til den tidlige sangen «Permanent Vacation». Dette var den første gangen han opptrådte siden han slutta i bandet.