10k sessões simultâneas em um VPS soam um pouco arriscadas. Eu alugaria um servidor dedicado para isso.
Se você pode usar o nginx somente sozinho depende do seu software. Alguns dependem dos módulos do apache (como o suporte ao htaccess), onde eles precisam usar o nginx na frente e o apache como backend.
Eu uso nginx + PFP-FPM + APC com grande sucesso, mas como eu disse - não é adequado para todos.
Talvez você deva instalar o VMWare Workstation e testar isso primeiro.