A diferença entre 12.04 e 14.04 está no arquivo /etc/mime.types. Em 12.04 a área relacionada é esta:
application/x-httpd-php phtml pht php
application/x-httpd-php-source phps
application/x-httpd-php3 php3
application/x-httpd-php3-preprocessed php3p
application/x-httpd-php4 php4
application/x-httpd-php5 php5
Em 14.04 a área relacionada é esta:
#application/x-httpd-php phtml pht php
#application/x-httpd-php-source phps
#application/x-httpd-php3 php3
#application/x-httpd-php3-preprocessed php3p
#application/x-httpd-php4 php4
#application/x-httpd-php5 php5
Observe que as linhas relevantes são comentadas no caso 14.04. Uma vez que eu descomentei essas linhas, eu pude ter arquivos .php carregados sem especificar a extensão do arquivo .php (depois de reiniciar o apache, é claro).
sudo service apache2 restart