Você pode criptografar sua instalação completa (ao lado do kernel que precisa ser descriptografado para inicialização) durante o processo de instalação do Ubuntu. Basta instalar outra máquina virtual e verificar essa opção. É um pouco escondido na seção de partição do disco - pelo menos era em instaladores 13.x.
Para criptografá-lo após a instalação é possível, mas é um verdadeiro problema para usuários não experientes.
TrueCrypt, como você sabe, do Windows não está funcionando (e o TrueCrypt 7.2 não pode mais criptografar mais)