A raiz do problema parece ser que eu estava tentando usar o Gerenciador de Pacotes Synaptic para fazer a instalação. Executando os seguintes comandos:
sudo apt purge postgresql-9.1
sudo apt-get install postgresql-9.1
sudo pg_createcluster -d /path/to/existing/data 9.1 main
esclareceu o problema de instalação.