Eu não acho que é possível instalar o PHP 5.1 a partir de repositórios.
A página do PHP5 Launchpad lista as versões suportadas do PHP a partir de Hardy. 5.2.4 é a primeira versão suportada.
Você pode instalar a partir de repositórios não confiáveis ou compilar a partir do código-fonte.
Mas, por favor, note que você está assumindo riscos por não usando uma versão suportada do PHP. A solução real seria atualizar / corrigir o aplicativo em vez de fazer o downgrade.