Na verdade, o rpcbind incluído no pacote nfs-client não é instalado por padrão. Ele é instalado por padrão se você escolher os "utilitários padrão do sistema" no menu tasksel durante a instalação.
É seguro remover tudo dessa lista se você não quiser uma "distribuição inchada". Como exemplo, ele não instalará o Exim4 MTA, que na minha opinião é uma perda de tempo em um pequeno servidor.
Se você precisar dos serviços do NFS Client, basta instalar o pacote nfs-client após a instalação e manterá um baixo espaço na sua caixa de servidores.