Existem muitas opções em diferentes níveis:
- MAC, kernel e amp; Forças de segurança do sistema, como você afirmou. Você pode adicionar o Grsecurity à lista.
- isolamento interpretor / process: SuPHP, SuExec, PHP-FPM pools ...: o site é executado sob seu próprio usuário
- isolamento do sistema: chroot, ou muito melhor, containers / namespaces (LXC, OpenVZ, Vserver, Jails, Zones)
- Ou até mesmo virtualização completa ...
É comum trabalhar em mais de um nível. Por exemplo, acredito que o Grsec + (SuPHP ou SuExec) é bastante comum.