Existem muitas maneiras diferentes de conseguir isso.
Você poderia:
1) Execute o seu sistema operacional em um Live CD e tenha alguns scripts que personalizem a configuração pós-inicialização. Então você só precisa manter uma cópia dos scripts.
2) Virtualize, como você disse. Não precisa ser VMWare, você também pode usar o KVM, que é gratuito e "embutido". Basta criar uma imagem de disco para a partição do sistema e fazer o backup. Mantenha os dados em uma imagem separada.
3) Discos espelhados (Raid 1) irão protegê-lo da falha do disco, mas não de outras coisas (acidentes, erro humano, malicioso "rm -rf /", etc)
4) Crie uma imagem de inicialização ou instalador personalizado em uma chave USB e use-a apenas para recriar o sistema conforme necessário. É preciso um pouco mais de esforço para começar, mas é uma ferramenta muito útil no seu kit.
Etc, etc ...