Edite o arquivo (como sudo)
/usr/share/X11/xkb/compat/basic
e altere
interpret Any+Lock {
action= LockMods(modifiers=Lock);
};
para
interpret Any+Lock {
action= SetMods(modifiers=Lock);
};
Então saia e volte. Tenho certeza que isso deve funcionar. Esteja ciente de que isso alterará a função de cada tecla do Caps Lock em todos os teclados conectados ao seu sistema. É possível limitar isso a um dispositivo específico, mas isso está um pouco além do escopo desta questão e exigirá que você se familiarize um pouco mais com os arquivos de configuração do xkb.