Portanto, há ambiguidade nas tabelas de mapeamento para bracketleft e bracketright. Talvez se você remover os que você não quer combinar será ok. Por exemplo, para o código de acesso 17, faça:
xmodmap -e 'keycode 17 = 8 asterisk 8 slash trademark trademark U0300 U0301'
onde acabei de substituir a coluna 5 por uma duplicata da coluna 6. A propósito, xmodmap -pke
imprimirá o mapeamento em um formato que você pode reutilizar para -e
.