Você precisa ter a pilha LAMP instalada para configurar o Wordpress.
1) Instale o servidor HTTP Apache
sudo apt-get install apache2
2) Verifique se está funcionando indo para http://localhost/
3) Instalar o PHP
sudo apt-get install php5 libapache2-mod-php5
4) Para que o PHP funcione com o Apache, você precisa reiniciar
sudo /etc/init.d/apache2 restart
5) Instalar o MySQL
sudo apt-get install mysql-server
6) Opcional Instale o phpMyAdmin (Recomendado: Torne a vida mais fácil)
sudo apt-get install libapache2-mod-auth-mysql php5-mysql phpmyadmin
7) Para adicionar o phpMyAdmin ao servidor web Apache, você precisa editar o arquivo apache2.conf
gksudo gedit /etc/apache2/apache2.conf
8) Adicione isto à última linha do arquivo apache2.conf
Include /etc/phpmyadmin/apache.conf
9) Então você precisa reconfigurar o seu pacote phpMyAdmin
sudo dpkg-reconfigure -plow phpmyadmin
10) Reinicie o Apache e tudo deve funcionar
sudo /etc/init.d/apache2 reload
Nota: Quando você reconfigura o phpMyAdmin, ele pode perguntar sobre qual soquete você usará, selecione Unix Socket.
O diretório htdocs no Ubuntu é /var/www