Boas perguntas. Primeiro, sempre instale a versão mais recente do Debian (estável) e vá a partir daí. Escolha a instalação mínima e depois que ela estiver completa, use o apt-get para obter os pacotes que você precisa:
# apt-get install apache2
# apt-get install php5
# apt-get install mysql-server
Isso deve deixar seu LAMP pronto (Linux + Apache + MySQL + PHP).
Como você mencionou a segurança máxima, eu diria para não instalar nenhuma dessas ferramentas gráficas para gerenciar seu servidor (como cpanel, webmin, etc). A configuração do Apache + PHP + Mysql é simples o suficiente para fazer através do terminal (além disso, eles vêm quase pré-configurados por padrão).
Para monitorar, sugiro o OSSEC (monitorará seus logs, alterações em seus arquivos importantes, etc.).