Kumpulan ini berasal dari penjelmaan terdahulu yang dipanggil “W.H.Y

Kumpulan ini berasal dari penjelmaan terdahulu yang dipanggil “W.H.Y Gank” yang diketuai oleh Adam dan Sakti. Kedua-dua ahli telah menjemput Duta – yang pernah membuat persembahan bersama Adam sebagai penyanyi dan duo gitar akustik di kejiranan mereka 17 Ogos – untuk menyertai latihan kumpulan mereka untuk menjadi vokalis. Setahun selepas “W.H.Y Gank” ditubuhkan, kumpulan itu bertemu dengan Eross (yang kemudiannya menjadi gitaris utama mereka). Mereka berempat memutuskan untuk membentuk sebuah band baru, dan semasa pada sesi jamming studio pertama mereka Eross memperkenalkan band itu kepada Anton. Band ini diberi nama “Sheilagank” – “Sheila” kerana nama rakan wanita yang Adam dan Eross kenali – dengan tarikh pembentukan rasmi ialah 6 Mei 1996. Sheilagank membuat persembahan dalam pelbagai festival pancaragam yang dianjurkan oleh sekolah menengah selama kira-kira 2 tahun sehingga pertengahan tahun 1998, apabila mereka mendapat kontrak rakaman pertama mereka dengan Sony Music Entertainment Indonesia label. Para ahli menukar nama band mereka kepada “Sheila On 7”: “on 7” merujuk kepada tujuh not sejujuk solfeggio , manakala “Sheilagank” menjadi nama pangkalan peminat mereka.