O comando do terminal para fazer o que eu quero é
xmodmap -e "keycode 133 = ISO_Level3_Shift"
então eu adicionei este comando para o XFCE Startup. Deveria haver uma maneira mais elegante através de um arquivo de configuração no diretório Home, embora a adição de um arquivo .xmodmap não funcionasse.
Neste caso, 133 é a tecla Left Win; você pode obter isso executando xev em um terminal, pressionando a tecla para a qual você deseja o código e ele será impresso no terminal. Espero que isso ajude algumas outras pessoas.