Do ponto de vista da segurança, acredito que esses provavelmente seriam os mesmos. Se o serviço for interrompido, a porta será fechada e rejeitará as conexões. Você provavelmente também quer ter certeza de que suas regras de firewall também bloqueiem o acesso às portas NFS. Dito isto, a desinstalação significaria que você não poderia reiniciar o serviço acidentalmente / inadvertidamente.
Do ponto de vista do desempenho, depende do tipo de gargalo com o qual você está preocupado. se o serviço for interrompido, ele não está consumindo recursos de memória ou processamento, mas ainda está usando uma pequena quantidade de espaço em disco para armazenar arquivos de programa e configuração.
Além disso, pode haver um momento em que você precise usá-lo para administrar o servidor, por isso, mantê-lo, mas desativado, pode economizar algum tempo no futuro.