O modo "mais rápido" (mais fácil?) é criptografar a partição durante a instalação - se o disco for um sistema Ubuntu completo. O Ubuntu vem com suporte para um diretório / criptografado / home e para criptografar o sistema completo; criptografar todo o sistema provavelmente não valeria a pena. Isso significaria criptografar arquivos de log, configuração do sistema, binários do sistema e swap.
Em qualquer caso, o uso de ecryptfs faria o que você quer. Certifique-se de ter o ecryptfs-utils carregado.
Se você não tem medo de alguma documentação técnica, experimente estes excelentes documentos do Ubuntu:
EncryptedFilesystemOnIntrepid
EncryptedFilesystems
Se a instalação for possível, você pode tentar isso - eu acho que requer que o LVM use criptografia.