Verifique o /etc/mtab , talvez haja uma linha que ainda direcione o diretório para a montagem do NFS. Além disso, verifique se você tem o serviço automount em execução no servidor.
Teste lsof | grep /zebra para encontrar qualquer processo que ainda esteja usando /zebra .
Tente também umount -l /zebra e rm -rf novamente.