Následovaly další personální změny a Pierce také nakrátko odložil

Následovaly další personální změny a Pierce také nakrátko odložil kytaru a byl pouze zpěvákem. Při odletu na australské turné odmítli kytarista a bubeník nastoupit do letadla a Pierce byl nucen je nahradit členy předkapely. Vrátil se také kytarista Kid Congo Powers. Třetí album vyšlo v roce 1984 pod názvem Las Vegas Story a přineslo výraznou změnu zvuku, který se posunul od punkově znějících prvních dvou nahrávek k uhlazenějšímu alternativnímu rocku . Na podporu alba se skupina se vydala na evropské turné, s další personální změnou na místě bubeníka. Po sérii koncertů, kde hráli jako předkapela Siouxsie and the Banshees , se Gun Club rozhodli ukončit činnost a v zimě 1984 odehráli své poslední koncerty. Pierce se poté pustil na sólovou dráhu, se členy skupin The Cure a Roxy Music nahrál album Wildweed (1985) a s jinou sestavou album propagovali na koncertním turné. Na kytaru hrála Pierceova přítelkyně Tomi Mori a na bicí Nick Sanderson ze skupiny Clock DVA .