Configurar algo como BackupPC é bastante fácil e fornecer cópias do sistema de produção no caso de problemas. Os backups não são não opcionais. Lembre-se de testar seus backups regularmente também. Nunca confie em um backup não testado.
A verdadeira questão é como lidar com a recuperação. Muitas pessoas querem ter um sistema de backup que automaticamente assume o controle se o sistema primário estiver inativo. Isso é muito difícil e, se feito de forma errada, provavelmente levará ao tempo de inatividade em vez de impedi-lo.
No outro extremo do espectro, é apenas ter uma cópia de todos os dados para que você possa recuperar a caixa de produção (ou alguma subseção dela) no caso em que é necessário. Isso é mais fácil de configurar, embora, obviamente, você possa ter horas de inatividade ao recuperar os dados e fazer com que as coisas sejam configuradas novamente e testadas para produção.
Se você tiver bancos de dados, não se esqueça de verificar se os backups obtêm cópias consistentes desses dados. Eu costumo apenas fazer um "despejo" dos dados diariamente para um arquivo e usá-lo para backups, algumas pessoas preferem fazer backup dos arquivos de diário para recriar os bancos de dados ou usar instantâneos para obter uma cópia de ponto no tempo para fazer backup de. Para a maioria dos meus próprios usos, um lixo é bom e a simplicidade ganha.