Várias respostas podem ser uma solução!
Desative o cache de miniaturas e ligue-o novamente
Nem todas as versões do Vista-Windows 7 possuem o Editor de Diretivas de Grupo.
Outro truque é abrir o gerenciador de tarefas e um prompt de comando elevado (administrador), deixar ambos abertos, na aba do processo, matar o explorer.exe, usar o prompt de comando para excluir os arquivos, usar o gerenciador de tarefas e fazer um arquivo > Nova tarefa > digite explorer.exe para carregar sua área de trabalho novamente.
Este artigo mostra como fazer isso na inicialização, mas apenas use o método acima para fazer isso sem reinicializar. link
Se houver um erro de permissão ao tentar excluir, talvez seja necessário apropriar-se dos arquivos primeiro. Para obter a propriedade, consulte link