Acho que pode ter a ver com o uso de uma cifra de bloco.
Recebo um erro semelhante quando o faço:
$ tar czpvf - /test/directory |openssl aes-256-cbc -e -salt -pass pass:password | dd of=/tmp/foo.encrypted.tgz
$ dd if=/tmp/foo.encrypted.tgz conv=sync | openssl aes-256-cbc -d -salt -pass pass:password |tar xzpvf -
Mas quando eu uso uma cifra de streaming como rc4, por exemplo:
$ tar czpvf - /test/directory |openssl rc4 -e -salt -pass pass:fred | dd of=/tmp/foo.encrypted.tgz
Eu não entendo esse erro.