Bem, eu nunca descobri o que eu fiz de errado, então eu deletei tudo e reinstalei. Desta vez eu criei outro usuário administrador primeiro então usei isso para criar meu usuário com o uid 501, em vez de começar com o uid 1001 e mudar para 501.
Eu sou novato no Linux, então eu não fiz isso da maneira mais eficiente, mas parece ter funcionado. Foi o que eu fiz:
No terminal com meu primeiro login de usuário administrador
sudo useradd -u 501 -m <my new admin user>
sudo adduser <my new admin user> sudo
procurando no meu histórico bash, pareço ter feito as duas coisas, o que, com certeza, é redundante:
sudo adduser -s /bin/bash <my new admin user>
sudo usermod -s /bin/bash <my new admin user>
então adicionei meu usuário a todos os grupos dos quais meu primeiro usuário administrador fazia parte grupos
sudo adduser <my new admin user> adm
sudo adduser <my new admin user> cdrom
sudo adduser <my new admin user> dip
sudo adduser <my new admin user> plugdev
sudo adduser <my new admin user> lpadmin
sudo adduser <my new admin user> sambashare
o grupo de discagem que eu adicionei porque tinha o ID de grupo 20, o mesmo grupo de id meu login de osx, não tenho certeza se isso é necessário ou ideal, mas é o que eu fiz:
sudo adduser <my new admin user> dialout
sudo passwd <my new admin user>
sudo apt-get install gksu
gksudo gedit /etc/login.defs
Eu editei o login.defs para mudar o ID de usuário mínimo para 500, então meu novo ID apareceria na tela de login
Percebi então que o grupo padrão para meu novo usuário estava definido como 1001 e não como 501, apenas para manter as coisas corretas. Configurei isso para 501. Se eu realmente entendesse as implicações, talvez o tivesse definido para 20 para corresponder à minha osx usuário perfeitamente
sudo groupmod -g 501 <my new admin group>
find / -group 1001 -exec chgrp -h 501 {} \;
sudo find / -group 1001 -exec chgrp -h 501 {} \;
sudo usermod -g 501 <my new admin user>
e defina meu shell padrão como bash
sudo adduser -s /bin/bash <my new admin user>
O Nautilus agora parece funcionar como esperado.