Você pode colocar as respectivas pastas em um grupo do qual o servidor da web é membro, mas ambos os usuários não são. Vamos supor, o servidor está sendo executado como usuário www-server, os usuários são chamados user1 e user2. Então, se ainda não houver um grupo adequado (normalmente existe), crie um novo e adicione o usuário do servidor web a ele:
sudo addgroup www-private
sudo adduser www-server www-private
Agora, para cada usuário, a pasta privada deve ser chowned para que o usuário proprietário seja o respectivo usuário e o grupo proprietário seja o do servidor da web:
sudo chown user1:www-private /path/to/folder/of/user1
sudo chown user2:www-private /path/to/folder/of/user2
As permissões agora podem ser definidas de acordo, para que o usuário tenha acesso de gravação à sua própria pasta, o servidor da Web tenha acesso de leitura e qualquer outro usuário não tenha acesso:
sudo chmod 750 /path/to/folder/of/user1 /path/to/folder/of/user2
Se bem me lembro, isso deve dar o resultado desejado.