Em resumo, o que você está tentando não é possível, a menos que você use um ambiente chroot
ou qualquer tipo de contêiner para separar o ambiente do usuário do seu host.
Se você restringir o acesso do usuário apenas ao seu diretório home, o usuário não poderá fazer o login, pois não seria possível executar nenhum comando ou criar arquivos em / tmp quais aplicativos dependem para serem graváveis.