O backup stsadm opera no nível do conjunto de sites e é útil para tarefas como migrar serviços do sharepoint entre servidores. No passado, era usado para migrar entre versões do sharepoint. Não tenho certeza se a função de migração ainda será verdadeira. O stsadm está disponível apenas para um administrador do Windows.
O backup do designer está disponível para qualquer designer de site ou administrador de site do SharePoint, e pode ser usado para ter um backup que ele possa restaurar sozinho ou usado para realocar um site ou subsite para outra ramificação do conjunto de sites. Esta é mais uma ferramenta de usuário final.
Os dois formatos de backup não são intercambiáveis entre si.