Use rm \ (escape da barra invertida com outra barra invertida). Observe que isso também funciona de maneira similar, para diretórios denominados \ (usando rmdir ou rm com o -r flag).
Exemplo:
>mkdir demo >cd demo >touch \ >ls -l total 0 -rw------- 1 hennes users 0 Jul 29 20:25 \ >rm \ >ls -l total 0