Op 29 januari 2010 maakte The Red Jumpsuit Apparatus via hun Twitter

Op 29 januari 2010 maakte The Red Jumpsuit Apparatus via hun Twitter -pagina bekend dat ze eind juli/augustus een nieuwe ep zouden uitbrengen. In februari 2010 nam de band afscheid van hun label Virgin Records, onder vermelding van de slechte promotie van Lonely Road . Ze besloten om muziek onafhankelijk uit te brengen. Volgens zanger Ronnie Winter: Op dit punt willen we zo lang mogelijk volledig 100% onafhankelijk blijven . De eerste song was Valentine , dat gratis werd uitgebracht op Valentijnsdag , 14 februari 2010. Op 22 juni 2010 kondigde The Red Jumpsuit Apparatus via Myspace blog aan dat hun aankomende ep The Hell or High Water zou heten en dat het eerste nummer Choke op 28 juni 2010 zou worden uitgebracht als een gratis download. De ep werd opgenomen in de studio van de band in Middleburg , Florida en werd gemixt en gemasterd door Paul Lapinski . Dit was hun eerste publicatie na hun vertrek bij Virgin Records en werd uitgebracht op 24 augustus 2010. Het volledige album na de ep zou begin 2011 uitkomen.