Economize toda essa dor e pegue uma pilha LAMP pré-configurada, rodando no Ubuntu, como uma imagem da VirutalBox Virtual Machine da Turnkey. Eles fornecem uma interface pré-instalada para todas essas configurações chamada Webmin, que permite que você configure tudo em um navegador.
É muito fácil, especialmente se você está apenas começando a se dar bem com o Linux / Ubuntu.