O Backup Exec oferece a opção de usar compressão por hardware ou compactação de software (executada pelo Backup Exec). Uma coisa possível de verificar pode ser: você tem a compactação de software ativada? Se você fizer isso, e o hardware também estiver tentando fazer a compactação ... você não pode realmente compactar os dados já compactados.
Tem certeza de que o firmware da sua biblioteca e unidade de fita está totalmente atualizado? Essa é uma coisa que o suporte vai lhe perguntar se você ligar para eles. Atualizá-lo antes de chamar o suporte economizará algum tempo.