O problema parecia ser que eu tinha essa definição no meu arquivo /etc/apache2/mods-available/php5.conf:
<FilesMatch "\.ph(p3?|tml)$">
SetHandler application/x-httpd-php
</FilesMatch>
O padrão regexp esperado seria p3 ou tml terminando em .ph - prefixo.
A correção mais fácil foi adicionar:
<FilesMatch "\.ph$">
SetHandler application/x-httpd-php
</FilesMatch>
no arquivo. Funciona como um encanto agora.