Por que não apenas executar:
del /q \hostname\c$\FolderFile\File.txt
Caso contrário, escreva o arquivo batch em seu sistema, então use a opção -c do psexec para "Copiar o programa especificado para o sistema remoto para execução"
Usando o PSEXEC para chamar o CMD para um comando DEL em um computador remoto por meio de um script em lote.
PSEXEC \hostname -u username -p password CMD /C DEL /Q /F C:\Folder\File.txt
O script pausa com uma nova janela CMD exibida conectada à máquina remota.
Por que o psexec não passa automaticamente meu comando DEL via CMD?
EDITAR:
O comando funciona bem quando enviado diretamente pela CLI e não em um script em lote
O seu comando de exemplo funciona bem no meu teste em execução em um arquivo de lote no Windows 7 que visa o Windows XP, o que é estranho.
Você pode tentar colocar seu comando del entre aspas:
PSEXEC \hostname-u username -p password CMD /C "DEL /Q /F C:\test.txt"