Desligar o apache2 antes de instalar o nginx deve corrigir esse problema.
pare o apache2
sudo systemctl stop apache2.service
impede que o apache2 inicie na inicialização
sudo systemctl disable apache2.service
Reinstale o nginx
sudo apt-get install nginx