Acho que você precisa da opção tar -J no seu canal. por exemplo. | tar -xJf -
A opção -J informa ao tar para usar a compactação xz .
Acho que o motivo pelo qual tar xf transmission-2.80.tar.xz funciona sem -J é que a opção é inferida por tar com base na extensão do arquivo.