Você instalou o phpmyadmin?
Parece-me que você perdeu. Não é uma parte da pilha LAMP em si, mas uma ferramenta de administração para configurar o MySQL (que é escrito em php).
Você precisaria fazer sudo apt-get install phpmyadmin
de acordo com este guia . Depois de concluir esta etapa, você poderá acessar o phpMyAdmin.
Espero que isso ajude;)