Você tem erros de sintaxe nas duas expressões regulares. Você não pode ter um parêntese de abertura sem um parêntese de fechamento, e você não pode ter seu regex final com uma barra invertida. (Ou melhor, a pasta de destino se torna parte de sua regex, mas você não pode ter uma receita sem uma pasta de destino ou outra ação.)
Os parênteses parecem supérfluos aqui; Eu acho que você quer
:0H
* ^X-Spam-Score:[ ]*\*\*\*\*\*\*\*\*\*\*
/dev/null
:0H
* ^X-Spam-Score:[ ]*\*\*\*\*\*
$HOME/mail/Spam
em que as duas ocorrências de [ ]*
devem ter um espaço e uma tabulação entre os colchetes para corresponder espaços em branco arbitrários antes dos asteriscos literais; e a primeira receita combina dez asteriscos literais, e o segundo, cinco. (Adicione mais se você quiser mais, ou tire alguns se vice-versa.)
Para a solução de problemas do Procmail, definir um LOGFILE
e examinar os diagnósticos geralmente é um bom primeiro passo. Há uma página de solução de problemas no link com mais orientações e outras coisas que você pode experimentar.