xinput é sua melhor aposta. Não consigo confirmar isso, pois não tenho hardware semelhante, mas tente executar:
xinput --set-prop --type=int --format=8 "Logitech USB Trackball" "VertScrollDelta" 4
O --format = 8 especifica um valor inteiro de 8 bits; usar 16 ou 32 pode funcionar se 8 não.
Você também pode usar o seguinte para tentar solucionar isso por conta própria:
xinput --list mostrará uma lista de dispositivos de entrada com os quais xinput pode trabalhar
xinput --list-props "Logitech USB Trackball" mostrará as propriedades atuais do seu dispositivo