El 9 de març de 2007, Burns va anunciar que Stiff Little Fingers

El 9 de març de 2007, Burns va anunciar que Stiff Little Fingers anava a gravar un nou àlbum que, esperaven, que es completés a finals de 2007. Han avançat una pista del nou disc, “Liars Club”, en els concerts en directe. La cançó porta el nom d’un bar que Burns va veure en el seu camí a casa mentre escoltava un informe de premsa sobre Tony Blair , George W. Bush i la guerra de l’Iraq . En el concert de Barrowlands, Glasgow el 17 de març de 2011, Burns va anunciar que s’estava gravant un nou àlbum, amb sort, per a un llançament de 2011, abans d’avançar-ne una nova cançó, “Full Steam Backwards”, sobre la crisi bancària del Regne Unit. El 16 d’octubre de 2013, la banda va llançar un projecte en Pledgemusic per aixecar fons per un àlbum nou de llançament projectat el març de 2014. El projecte va assolir el seu objectiu de finançament en 5 hores. El títol ha estat confirmat per la banda com No Going Back amb enregistrament finalitzat el gener de 2014 i estrenat el 15 de març de 2014 a través de PledgeMusic i per al gran públic l’11 d’agost de 2014. Una gira en suport de l’àlbum va començar a la primavera de 2014 i va incloure dates als Estats Units a la gira de Summer Nationals que presentava The Offspring , Bad Religion , The Vandals, Pennywise i Naked Raygun. L’àlbum va ser el primer èxit de la banda britànica des d”All The Best” (1983) i el seu primer número 1 en la BBC Rock Album Chart.