Isso não foi testado, mas e se você fizer isso editando /etc/default/keyboard , ou seja, alterando a linha:
XKBOPTIONS=""
para
XKBOPTIONS="caps:backspace"
Não tenho certeza sobre o comando xmodmap . É realmente necessário? AFAIK xmodmap está obsoleto.