Você deve escolher o Ubuntu 10.04, já que é uma versão LTS (Long Time Support), o que significa que é uma distribuição realmente estável, com apenas um software estável. Adicionando que você tem suporte até 2015-04 para o servidor (que inclui patches de segurança e assim por diante).
Ele vem com o postgresql 8.4.6. No entanto, se você precisar da nova versão do postgresql 9.0, você pode instalar em lucid following este tutorial .