Skupinu The Gun Club zformoval bývalý šéf fan clubu skupiny Blondie

Skupinu The Gun Club zformoval bývalý šéf fan clubu skupiny Blondie Jeffrey Lee Pierce v Los Angeles. Jeho kolegy byli Brian Tristan, který se později v době svého působení ve skupině The Cramps přejmenoval na Kida Congo Powerse, Don Snowden, v té době působící jako hudební kritik deníku Los Angeles Times a Brad Dunning, později úspěšný návrhář interiérů a spisovatel. Pierce, Tristan a Dunning se znali z dřívějších raně punkových koncertů a výměnných burz hudebních nahrávek pořádaných na parkovišti vydavatelství Capitol Records a byli dobrými přáteli. Pierce hrál na doprovodnou kytaru a zpíval, Tristan obstarával sólovou kytaru, Snowden hrál na basu a Dunning na bicí. Skupina původně hrála rockabilly pod jménem The Cyclones, s jiným zpěvákem. Ten však už po prvním koncertě odešel, kvarteto se přejmenovalo na The Creeping Ritual, zpěvu se ujal Pierce a v tomto složení se nějakou dobu objevovali na místních pódiích. Brzy poté na návrh Pierceova spolubydlícího Keitha Morrise, zpěváka skupin Black Flag a Circle Jerks, změnili svůj název na The Gun Club. Často hrávali jako předkapela, mimo jiné před skupinami X a The Blasters. Snowden a Dunning odešli v roce 1980 a nahradili je Rob Ritter a Terry Graham, bývalí členové skupiny The Bags. Kid Congo před nahráváním prvního alba odešel do The Cramps. Místo něj nastoupil Ward Dotson, který na debutním albu hraje na sólovou a slide kytaru. Skupina podepsala smlouvu s divizí Ruby vydavatelství Slash Records a nahrávka nazvaná Fire of Love vyšla v roce 1981. Kritik Stevo Olende napsal, že “textově album “drancuje” voodoo, populární komiksy z 50. let a blues”. Jiný kritik poznamenal, že “podobná hudba nebyla ke slyšení nikdy předtím a ani od té doby”. Co se týká prodeje, bylo album Fire of Love úspěšné a po vydání obdrželo příznivé kritiky.