Um pouco tarde eu sei, e apenas uma sugestão (ao invés de uma resposta definitiva) mas você já tentou ver a saída de xmodmap -pke | grep <keycode_from_xev>
(pode ser apenas a versão de linha de comando do caminho que você tentou, mas vale a pena)
Se você não tiver, e a saída é algo como keyode <...> =
então pode ser corrigido criando um .xmodmapfile
com a linha keycode <...> = XF86AudioLowerVolume
(e XF86AudioRaiseVolume
para a outra chave).
Você pode então usar o arquivo com o comando xmodmap .xmodmapfile
Além disso, seria muito útil se você colocasse xmodmap -pke | grep XF86Audio
no terminal para ver se existem códigos de teclas associados a isso.
Se foi isso que você quis dizer quando tentou dizer "tentou definir as teclas", peço desculpas.