Mangum mudou-se para Denver para gravar o primeiro álbum do Neutral

Mangum mudou-se para Denver para gravar o primeiro álbum do Neutral Milk Hotel, On Avery Island . Schneider atuou como produtor , e as sessões de gravação duraram de fevereiro a maio de 1995. Embora Schneider estivesse interessado em uma produção expansiva ao estilo dos Beatles , ele se alinhou com a preferência de Mangum por um som lo-fi , admitindo que “no começo foi frustrante, mas acabei gostando. Foi assim que aprendi a produzir, fazendo aquele disco, porque tive que me desapegar totalmente do que eu achava que deveria ser.” On Avery Island foi lançado nos Estados Unidos em 26 de março de 1996 pela Merge Records e no Reino Unido em 30 de setembro de 1996 pela Fire Records. Vendeu cerca de 5.000 cópias e recebeu críticas positivas, com os críticos caracterizando a música como pop lo-fi . Kurt Wolff, do Houston Chronicle , descreveu ouvir a música como “uma experiência alucinante” e, por fim, chamou o álbum de “um destaque fresco e empolgante”. A publicação britânica NME escreveu: “O Neutral Milk Hotel consegue converter a introspecção miserável como o pecado em mantras folk que penetram no seu crânio como uma furadeira bem direcionada”. On Avery Island ficou em trigésimo quinto lugar na pesquisa Pazz & Jop do The Village Voice em 1996.