O que não está muito claro aqui é que você não pode ter um arquivo e um diretório com o mesmo nome. Além disso, desde que você mencionou descompactar arquivos rar, pode-se pensar que você deseja remover o diretório nomeado após o arquivo rar. Isso é estranho porque, por que você quer deletá-lo depois de descompactar?
Com base na minha fraca compreensão do problema (que pode melhorar se você esclarecer ou, melhor ainda, fornecer um exemplo), isso pode funcionar:
for i in *rar; do
(cd uncompressed && rm -rf $i)
done
então se você tiver algo como
./file1.rar
./file2.rar
./file3.rar
./uncompressed/file1.rar/...
./uncompressed/file2.rar/...
./uncompressed/file3.rar/...
o mini-script que eu postei deve deletar todos os subdiretórios * .rar / do arquivo em descomprimido.