Se o arquivo estiver no NFS, você terá que fazer o login no servidor que está servindo o sistema de arquivos (o arquivo deve ser local para o servidor), então você pode executar.
lsof | grep -i filename
Ele deve listar todos os processos que estão usando o arquivo, você pode então fechar o programa (se alguém na rede tiver o arquivo aberto, eu acho que haverá um processo nfsd listado no arquivo). Depois que todos os processos estiverem fechados, você poderá remover o arquivo conforme necessário, local ou remoto. Se isso não funcionar, você deve ser capaz de rm-rf do servidor para forçar excluí-lo.