Acho que isso é um problema com o driver, talvez ainda não tenha sido bem suportado. Eu não tive esse problema com o windows 7 e o firefox. Você pode tentar com outro mouse?
Quando tento usar a roda de rolagem (para cima ou para baixo) no Firefox 3, em vez de rolar para cima ou para baixo, a página fica no topo. O mouse em questão é o Logitech G5, e esse problema acontece com as versões 4.7 e 4.8 do SetPoint.
Tente desativar usar autoscrolling e usar rolagem suave no firefox (Ferramentas > Opção > Avançado > Geral)