Se formó cuando tres miembros de Guns N’ Roses (Slash, Duff McKagan y

Se formó cuando tres miembros de Guns N’ Roses (Slash, Duff McKagan y Matt Sorum) se unieron para tocar en un concierto benéfico para el baterista Randy Castillo en 2002. Al darse cuenta de que todavía podían complementarse musicalmente, los tres decidieron continuar tocando juntos. ​ Sus primeros ensayos incluyeron a Josh Todd y Keith Nelson del grupo Buckcherry , pero se fueron antes de que se formara formalmente la banda. ​ Tras esto, el guitarrista Dave Kushner , que había tocado en Wasted Youth junto a Dave Navarro , fue invitado al proyecto. Kushner ya conocía a los miembros del grupo, dado que estudió con Slash en la escuela secundaria y había tocado con McKagan en la banda Loaded. ​ El cuarteto se llamó «The Project» mientras encontraban un mejor nombre.