Você pode aplicar um valor de aceleração personalizado: defaults write -g com.apple.scrollwheel.scaling -float <float>
e relogin.
A escala parece ser aproximadamente linear e não ter nenhum limite máximo prático.
Editando o plist NSGlobalDomain em um editor de texto: f=~/Library/Preferences/.GlobalPreferences.plist; cp $f $f-; plutil -convert xml1 $f; open -a TextEdit $f