在以中性牛奶饭店这个名字为朋友录音之前，杰夫．曼干已经以Milk之名录制了一些卡带，最为人所知的一卷就是《Pygmie Barn in E Minor》。这些卡带是杰夫．曼干最早的作品，但大多没有公诸于世，只有大约12卷左右被复录下来。2006年， 象六 （ 英语 ： The Elephant 6 Recording Company ） 发行了名为《Beauty》的卡带，不久后更发行了许多名为《Ruby Bulbs》的卡带，〈Ruby Bulbs〉也是歌名，很可能是唯一一首Neutral Milk Hotel曾演奏过，Milk时期的歌。