Não há nada inválido sobre esse nome no Windows, a menos que talvez haja alguns caracteres não-imprimíveis adicionais que você não esteja vendo.
Pode ser muito longo se estiver em uma árvore de diretórios, fazendo com que todo o caminho exceda o Windows MAX_PATH limitação de 260 caracteres para aplicativos que ainda não suportam nomes Unicode longos. Se isso é tudo, uma solução possível para isso é subir alguns níveis, depois mover temporariamente toda a subárvore (incluindo a parte da qual você quer se livrar) para algum lugar mais próximo da raiz, apenas para encurtar temporariamente o caminho.
Para mim, parece mais um problema com a ACL nesse arquivo que está impedindo que você o exclua. Você pode verificar isso usando cacls
.