Use "<>Return" como atalho. Por exemplo, eu consegui definir a tecla de atalho para diminuir o zoom assim:
(gtk_accel_path "<Actions>/ThunarWindow/zoom-out" "<>Return")
O método de passar o mouse funciona para todas as outras chaves que esperam Enter.
A edição de /home/username/.config/Thunar/accels.scm não tem efeito e é recarregada nos valores anteriores após o login novamente.