O X deve estar antes dos caminhos para incluir no arquivo tar.
Então:
tar cvf - /home/user -X altro/file.esclude | openssl aes-256-cbc -salt -k "password" | dd bs=80M of=/dev/st0
é ERRADO.
Isto:
tar cvf - -X /home/user/altro/file.esclude /home/user | openssl aes-256-cbc -salt -k "pass" | dd bs=80M of=/dev/st0
está certo
No arquivo de exclusão, eu uso
/home/user/.local/share/libvirt/images/*