Dentro da instalação padrão do Ubuntu ( apt install phpmyadmin ) PhpMyAdmin é incluído (e ativado) na configuração do Apache através deste arquivo de configuração adicional:
/etc/apache2/conf-enabled/phpmyadmin.conf
Este arquivo é um link simbólico para o arquivo /etc/apache2/conf-available/phpmyadmin.conf e, quando digitarmos a2enconf ou a2disconf , 'ativar' ou 'desativar' este link simbólico.
Por outro lado, o arquivo /etc/apache2/conf-enabled/phpmyadmin.conf é um link simbólico para o arquivo /etc/phpmyadmin/apache.conf .
De acordo com a discussão abaixo, durante o processo de instalação, algo deu errado e o último link simbólico não foi criado.
A solução fornecida pelo @abalter é a criação manual deste link simbólico:
sudo ln -s /etc/phpmyadmin/apache.conf /etc/apache2/conf-available/phpmyadmin.conf
Em seguida, ative este arquivo de configuração e reinicie o Apache ou apenas recarregue sua configuração:
sudo a2enconf phpmyadmin.conf
sudo systemctl reload apache2.service # within Ubuntu 16.04
sudo service apache2 reload # within Ubuntu 14.04