Você pode usar a opção "encriptar o SO" ao instalar o Ubuntu, mas eu tive erros com os drivers de vídeo da Nvidia tentando fazer isso. Mas isso provavelmente funcionará se você não estiver tentando usar drivers de terceiros.
Você também pode usar a opção "criptografar diretório pessoal" ao instalar o Ubuntu. Estou usando isso atualmente e não tive nenhum problema.
Além disso, há um programa chamado encfs, que funciona bem para criptografar pastas. Instale-o usando sudo apt-get install encfs e aprenda a usá-lo digitando man encfs