Acho que esta página de manual pode ajudar você: link
Se alguns cenários mais sofisticados forem necessários em algum momento, as ACL também podem ser úteis: link
Longa história curta - as permissões de arquivo corretas ajudarão você.
No meu sistema eu tenho dois usuários e duas partições de disco como (A e B). Eu tenho meus arquivos na unidade "A". Se outro usuário fizer login no meu sistema. Eu preciso negar o acesso à unidade "A" apenas e a unidade "B" deve ser de acesso comum.
Estou usando o Ubuntu 14.04