El cuarto sencillo de la banda, titulado « Kill Me », ​ fue lanzado

El cuarto sencillo de la banda, titulado « Kill Me », ​ fue lanzado en diciembre de 2012 y fue incluido en el último episodio de Gossip Girl . ​ Más tarde, entre junio y julio de 2013, The Pretty Reckless hizo pública dos canciones del nuevo disco, «Follow Me Down» y «Burn», a través de su canal de YouTube. ​ ​ Este nuevo álbum fue lanzado al público el 18 de marzo de 2014 por la compañía discográfica Razor & Tie, titulado Going To Hell . ​ Para la promoción del disco, fue creada una página web cuya dirección es goingtohell.xxx , que muestra un vídeo teaser y fechas para el nuevo Going To Hell TOUR. ​ ​ El 24 de septiembre fue lanzado el sencillo homónimo al disco . ​ Además más tarde sacaron como segundo sencillo del disco «Heaven Knows», meses más tarde «Messed Up World (F**ked Up World)», y recientemente se ha anunciado en diciembre de 2014 su cuarto sencillo «Follow Me Down».