O Grupo de Desenvolvimento Global do PostgreSQL (PGDG) mantém um repositório APT dos pacotes do PostgreSQL para o Debian e Ubuntu.
Para instalar em 14.04:
sudo sh -c 'echo "deb http://apt.postgresql.org/pub/repos/apt trusty-pgdg main" >> /etc/apt/sources.list'
wget --quiet -O - http://apt.postgresql.org/pub/repos/apt/ACCC4CF8.asc | sudo apt-key add -
sudo apt-get update && sudo apt-get install postgresql-9.4-postgis-2.1 pgadmin3 postgresql-contrib