Eu encontrei a resposta (na verdade, já tinha a resposta antes de perguntar, mas percebi que isso ajudaria os outros e aprendi alguma coisa). Quebrar o tar e o ssh em dois passos diferentes funcionou.
tar cvjf - * | ssh root@2001:DB8::1234:5678 "dd of=/backup/backup.tar.bz2"
Nota: Eu tentei usar cat em vez de dd, mas cat não funcionou para mim - tar deu erros de gravação. Pode ser que eu estivesse usando autenticação de chave ssh em vez de senha teria funcionado.
Referência: