Eu tive o mesmo problema no 16.10 com o Mate sobre o XRDP. Inicialmente consertei instalando o Firefox 51 da seguinte forma:
$ sudo apt-get remove firefox
$ wget https://launchpad.net/~ubuntu-mozilla-security/+archive/ubuntu/ppa/+build/11952503/+files/firefox_51.0.1+build2-0ubuntu0.16.10.2_amd64.deb
$ sudo dpkg -i firefox_51.0.1+build2-0ubuntu0.16.10.2_amd64.deb
$ sudo apt-mark hold firefox
No entanto, encontrei o bug que está realmente rastreando esse problema, aqui:
Consegui confirmar que, ao definir a variável de ambiente LOGNAME, o problema desaparece:
$ export LOGNAME=$USER
$ firefox &
O bug é bastante antigo (outubro de 2016), mas parece que foi corrigido recentemente. A versão 52.0.1 do Firefox no Ubuntu 16.10 ainda não contém a correção, portanto, por enquanto, definir manualmente LOGNAME é a maneira de contornar o problema.