Isso é o que eu geralmente faço:
- Instale um bom firewall. A filtragem de saída é tão importante quanto o ingresso. Se alguém conseguir colocar um segurança do IRC no seu VPS, seria bom se não pudesse falar com o mundo exterior. O APF é bastante decente para isso e é fácil de configurar.
- Instale mod_security rapidamente. Você pode obter algumas regras realmente abrangentes que são atualizadas com bastante frequência dos caras em Gotroot . Disclaimer, um deles é um amigo meu.
- Configure o PHP com o suexec, certifique-se de que seus scripts PHP sejam executados como o usuário que os possui. Além disso, configure o PHP apenas com o que você precisa.
- Não enfraqueça a configuração do PHP apenas para executar algum script que você encontrar. Em outras palavras, não ative o register_globals apenas para que um carrinho de compras antiquado funcione.
- Servidores syslog remotos sempre são bons. Talvez obtenha dois servidores VPS, use um para armazenar backups e manipular o registro.
- Execute verificações diárias de rootkits . Execute o primeiro imediatamente depois de configurar seu servidor, antes de colocá-lo em produção. Estes funcionam armazenando hashes de executáveis do sistema e detectando quando as coisas mudam, bem como procurando assinaturas de explorações comuns.
- Se em um VPS, onde o host controla o seu kernel, insista que eles o mantenham atualizado. Por exemplo, uma fraqueza no vmsplice linux permitia que usuários comuns facilmente se tornassem root. Certifique-se de que o seu prestador se empenhe em assuntos fora do seu controle.
- Faça alguns amigos em vários fóruns relacionados a hospedagem, pesquise-os assim como SF para respostas e dicas. Esse tipo de pergunta é bastante comum nesses fóruns.
Estes são adicionais aos itens que outros sugeriram. Existem muitas ferramentas mais avançadas, como snort - eu recomendo que você olhe para elas. No entanto, esta lista de verificação deve ser boa para você entrar em um VPS.