tar -r
é usado para acrescentar arquivos ao final do arquivo, então você teria que mudar a ordem dos comandos tar para conseguir o que você quer.
Quanto à segunda parte - &&
é lógico AND no bash - o próximo comando só é executado se o primeiro comando for concluído sem erros.
Em outras palavras - o primeiro comando tentaria anexar arquivos mesmo se o primeiro comando falhasse, enquanto o segundo formulário garantiria que o segundo tar não seria tentado, a menos que o primeiro alcatrão tenha êxito.
Uma abordagem ingênua à sua pergunta seria algo como: tar -cvf test.tar -C /home/user/Downloads/test Auto_file && tar -rvf test.tar -C /home/user/Desktop/filestoTar File_one && tar -rvf test.tar -C /home/user/Downloads/test rocket_file && tar -rvf test.tar -C /home/user/Desktop/filestoTar zap_file