Então eu tenho um laptop com o Ubuntu como sistema operacional. Agora alguém pode ter acesso físico ao meu hardrive, ver meus dados simplesmente usando-o como disco rígido secundário em outro laptop ou máquina?
Sim, eles poderiam acessar os dados. Se você quiser evitar isso, você precisa criptografar os dados. Aqui estão algumas informações sobre como usar a pasta "Privada" criptografada ou para criptografar sua pasta pessoal: link
Aqui você pode encontrar como criptografar qualquer pasta ou partição: link
Sim, você precisará de criptografia se quiser impedir o usuário médio.
O passado provou que a criptografia também pode ser ignorada por meio de backdoors. Houve um newsitem em 2013 que o NSA pago para um backdoor na criptografia RSA. Mas é improvável que a NSA ou alguém que saiba como esse backdoor funciona seja a pessoa que monta seu disco.
Você não terá garantia de 100% em nenhum caso.