Seu argumento --lzma funcionará se você o colocar lá, mas você tiver problemas em outros lugares.
Você precisa colocar espaço entre backboxhome.tar.gz/home/user , e também criar um arquivo lzma compactado, não um arquivo compactado com gzip, para renomear o backboxhome.tar.gz para, por exemplo, backboxhome.tar.lzma (seria legal se você nomeasse como gz , mas seria difícil lembrar o que é realmente e também enquanto extarcting).
Seu comando como um todo pode ter a forma:
sudo tar -cvpf backboxhome.tar.lzma /home/user --lzma
Embora uma prática melhor seja usar as opções uma após a outra:
sudo tar --lzma -cvpf backboxhome.tar.lzma /home/user
Observe que lzma e xz usam o mesmo algoritmo de compactação. Na verdade, lzma está obsoleto em favor do mais recente xz . Então, seria melhor usar xz ( tar -J ):
sudo tar -cvpJf backboxhome.tar.xz /home/user