update-rc.d: using dependency based boot sequencing não é um erro. Ele está dizendo que está usando a nova inicialização baseada em dependência, em vez de uma inicialização baseada em seqüência antiga.
Se o /etc/rc3.d/SXXnginx existir, funcionará. Além disso, qual versão do Debian você está usando? O sinalizador -f só deve ser usado ao remover um item de inicialização, não para adicionar um. Ou você está tentando removê-lo? Sua pergunta poderia ser um pouco mais clara.