Parece estranho o que você está fazendo. Isto está no teste Debian x86_64:
jlquinn@cerberus:~/tmp$ mkdir dira dirb
jlquinn@cerberus:~/tmp$ touch dira/fileA.txt
jlquinn@cerberus:~/tmp$ ln dira/fileA.txt dirb/fileAlink.txt
jlquinn@cerberus:~/tmp$ rm -rfv dirb/*
removed 'dirb/fileAlink.txt'
jlquinn@cerberus:~/tmp$ ll dira
total 0
-rw-r--r-- 1 jlquinn jlquinn 0 May 7 13:46 fileA.txt