Acontece que foi culpa do driver Intellipoint. Depois de remover o Intellipoint, o Windows deixou de reconhecer os quarto e quinto botões do mouse, então usei o AutoHotkey para mapeá-los manualmente.
Ainda não é perfeito "rolagem suave", mas a aceleração é muito mais previsível, e o Windows Explorer agora rola consistentemente linha por linha em vez de movimentos aleatórios.