Bem, eu finalmente determinei que com o xorg.conf que eu mencionei acima dos Fóruns do Ubuntu, ele funciona até que eu pressione qualquer um dos botões de modo (um mudou um LED colorido e outro muda a sensibilidade do ponteiro). Usando uma resposta para outra pergunta askubuntu sobre ratos RAT3, eu fui capaz de descobrir que os botões 10 a 14 se correlacionam com aqueles botões de modo. Então, na configuração acima, eu mudei 13 e 14 para 0, e agora funciona! Aqui está a configuração que estou usando atualmente:
Section "InputClass" Identifier "Mouse Remap" MatchProduct "Madcatz Mad Catz R.A.T.3 Mouse" MatchDevicePath "/dev/input/event*" Option "ButtonMapping" "1 2 3 4 5 0 0 8 9 0 0 0 0 0" EndSection
A funcionalidade dos dois botões de modo é preservada, já que eles operam com o firmware integrado do mouse. Embora eu mudei a linha MatchProduct, mas parece que a configuração funciona de qualquer maneira.