Se você não quiser desinstalar o apache2 porque não quer mexer com dependências, pode desativá-lo fazendo:
/etc/init.d/apache2 stop
update-rc.d apache2 disable
Em seguida, configure o nginx para servir nagios (não tenho experiência com ele para ajudá-lo)