Respostas às suas duas perguntas 1 & 2 são: YES & SIM
Etapas:
instale o Linux no seu container OpenVZ (distribuição ao seu gosto, certifique-se de que é um sistema operacional de servidor que não é desktop para facilitar sua vida)
instale o Apache, se necessário (algumas distribuições do servidor incluem o Apache na distribuição)
instalar pacote (s) do Joomla
Muito direto se você me perguntar ...