Você precisa usar um escape adequado, use qualquer um dos seguintes:
rm -r '${system:java.io.tmpdir}'
rm -r $\{system:java.io.tmpdir\}
Em bash , escapar apenas o $ seria o seguinte:
rm -r ${system:java.io.tmpdir}
Você não pode usar aspas duplas aqui, como rm -r "${system:java.io.tmpdir} , porque o shell tomará a coisa toda como expansão de variável com a variável sendo system:java.io.tmpdir , que é de fato um nome de variável inválido e então a expansão será sempre resultar em uma string vazia. Então, eventualmente, tentaria fazer: rm -r '' .