Kesällä 1979 Peter Buck ja hänen veljensä Ken muuttivat asumaan

Kesällä 1979 Peter Buck ja hänen veljensä Ken muuttivat asumaan entiseen kirkkoon (St Mary’s Episcopal Church) Oconee-kadulla Athensissa. Buck pyysi Stipea muuttamaan myös, koska heidän huoneessaan oli tilaa vielä yhdelle. Kirkossa asui ja vieraili paljon väkeä, mukaan lukien Kathleen O’Brien. Buck ja Stipe alkoivat jamitella yhdessä ja tällöin Buck huomasi Stipen lauluntekijäntaidot. Joulukuussa 1979 O’Brien esitteli Bill Berryn Buckille ja Stipelle ja kolmikko alkoi suunnitella yhteistä yhtyettä. Berry vaati, että heidän olisi otettava mukaan hänen pitkäaikainen ystävänsä, basisti Mike Mills. Yhtye aloitti harjoittelun kirkossa alkuvuodesta 1980. Buckista tuli yhtyeen kitaristi, vaikka hän hädin tuskin osasi soittaa.