Duas coisas vêm à mente:
- Você pode tentar brincar com a configuração de rolagem do mouse nas preferências do sistema (mas você já tentou isso, certo?)
- Veja se há drivers de mouse feitos para o mouse específico pelo fabricante. Por exemplo, a Logitech tem drivers de mouse para seus produtos em muitos casos que oferecem um controle de rolagem mais refinado (e outros).