Sua expressão xmodmap está errada. Precisa ser formatado assim:
keycode [keycode] = [keysym]
O keysym é o nome do símbolo da chave que você deseja que o "|" chave mapeada para, que no seu caso é "Return". Portanto, sua expressão xmodmap precisa ser:
keycode 51 = Return
Juntando tudo de novo, o comando que você deseja executar é:
[~]$ xmodmap -e "keycode 51 = Return"
(Não digite a parte [~] $ , estou apenas indicando que você precisa executá-la a partir do terminal).
Se você quiser que isso seja executado toda vez que você fizer login, crie um arquivo chamado ~ / .Xmodmap com o seguinte conteúdo:
keycode 51 = Return
Espero que funcione.