V kapele Kiss vznikala častá napětí, která měly za následek Crissovy

V kapele Kiss vznikala častá napětí, která měly za následek Crissovy odchody. Dne 7. října 2000 Criss v závěru jednoho koncertu v Jižní Karolíně zdemoloval svou bicí aparaturu; i když si fanoušci mysleli, že je to součástí vystoupení, ve skutečnosti šlo o projev Crissovy frustrace. Bylo to jeho poslední vystoupení, po němž byl v roce vyměněn Ericem Singerem . Se skupinou se Peter ještě spojil na nahrávání CD a DVD koncem roku 2002 na projektu Kiss Symphony: Alive IV a v březnu roku 2004 z kapely odešel znovu.