Eu mesmo encontrei uma solução. Não tenho certeza se é o melhor.
O diretório /home/george/.local/share/applications era de propriedade de root. Não tenho certeza se era para ser assim. De qualquer forma, depois que eu mudei de proprietário, agora posso definir outro programa como padrão sem problemas.
sudo chown -R george:george /home/george/.local/share/applications
Como complemento, agora as alterações de informações do sistema também funcionam