Instalar
sudo apt-get install apache2 mysql-client mysql-server php5 phpmyadmin libapache2-mod-php5
Você será solicitado a inserir uma senha pelo mysql. Crie um.
Configuração
Edite o /etc/hosts
sudo nano /etc/hosts
Adicionar
127.0.0.2 Yourwebsitename
Edite o /etc/apache2/apache2.conf
sudo nano /etc/apache2/apache2.conf
adicione o seguinte:
<VirtualHost 127.0.0.2>
DocumentRoot /var/www/YourWebsiteFolderName/
ServerName Yourwebsitename
</VirtualHost>