O servidor não reconhece o script como algo a ser executado localmente e, como tal, o oferece como um arquivo.
Estas linhas devem estar presentes na sua configuração do Apache. Note que o caminho pode precisar ser alterado para os módulos .so, dependendo da sua configuração:
# -- if you're using PHP 5, uncomment this line to activate it
#LoadModule php5_module libexec/libphp5.so
# -- if you're using PHP 4, uncomment this line to activate it
#LoadModule php4_module libexec/libphp4.so
AddType application/x-httpd-php .php .phtml
AddType application/x-httpd-php-source .phps
Acompanhar o reinício do serviço Apache e o php deve ser carregado no Apache para funcionar bem.