tar é como um arquivo zip que armazena vários outros arquivos, mas não os compacta. bzip2 compacta um arquivo, mas apenas um por vez. Um arquivo .tar.bz2 provavelmente indica que vários arquivos foram colocados em tar e subsequentemente compactados. Você não pode abocanhá-los juntos sem tostá-los, primeiro.
Seu erro é porque seu arquivo .tar.bz2 está corrompido. Veja um exemplo de um arquivo funcionando corretamente abaixo.
$ ls
test_file.tar.bz2
$ tar xvjf test_file.tar.bz2
test_file
$ ls
test_file test_file.tar.bz2
EDITAR
No exemplo acima, havia apenas um arquivo no tar. Se você quiser zipar apenas essa pasta:
$ bzip2 test_file
$ ls
test_file.bz2