Po wydaniu drugiej płyty w 2002 roku nie dość, że zespół ponownie

Po wydaniu drugiej płyty w 2002 roku nie dość, że zespół ponownie został zdziesiątkowany (opuściła go uzależniona od narkotyków Rose), to jeszcze zmieniła wytwórnię płytową. Z Epitaph Records The Distillers trafili pod skrzydła wielkiej wytwórni Warner Music Group . Gdy do zespołu dołączył nowy gitarzysta Tony “Bichon” Bradley , można było zacząć pracę nad trzecią płytą. Krążek został wydany pod koniec 2003 roku i zdecydowanie zmienił spojrzenie świata na tę nowojorską kapelę, dotąd grającą solidnego, momentami hardcorowego punk rocka. Płyta “Coral Fang” (dostępna również w Polsce) została wielokrotnie nagradzana, choć już głównie w kategoriach płyt rockowych .