Você está falando sobre duas ameaças diferentes.
Um é de perda de dados - faça o backup!
Para o outro, há algumas abordagens diferentes. Primeiro, você pode ir para criptografia em nível de container ou arquivo com EFS ou truecrypt respectivamente. Com truecrypt você também pode ter um arquivo de chaves em uma unidade separada
Alternativamente, você poderia ir para a criptografia de disco completo com bitlocker ou truecrypt no windows ou dmcrypt no linux. Há também discos rígidos que são criptografados por padrão.
Você também pode instalar software de rastreamento como o lojak ou a presa de código aberto para rastrear seu sistema, caso ele seja roubado.