O problema desapareceu quando removi o gnome-user-share ( sudo apt-get --purge remove gnome-user-share
). Aparentemente, isso foi causado pela função de compartilhamento de arquivos do Gnome, referindo-se a $ XDG_PUBLICSHARE_DIR e recriando o diretório (nome-padrão) quando não foi encontrado. Com o gnome-user-share removido, o diretório "Public" não reaparece mais.