Eu não tenho experiência com o sqlmaint.exe. especialmente em um servidor windows 2008. Instale os patches mais recentes do MS SQL 2005 e tente executar o comando novamente. Pode ser isso ajuda.
Deseja executar o trabalho de backup regularmente? Você pode criar um plano de manutenção com o estúdio de gerenciamento de sql. No plano de manutenção, você pode criar um trabalho de limpeza que exclui os backups antigos.
os planos de manutenção são uma maneira muito boa e estável de criar backups dos bancos de dados do ms sql 2005.
Você também deve definir um acesso mais restritivo ao compartilhamento de rede. outra pessoa pode criar um novo banco de dados a partir de seus backups ou simplesmente excluí-los por diversão.
Você também pode dar uma olhada na ferramenta forfiles.exe. Com essa ferramenta, é possível procurar por arquivos que atendam a alguns critérios especificados e excluí-los (ou faça o que quiser).
Tenha um bom dia.