Esta não é uma resposta, mas uma sugestão de como você pode encontrar a resposta.
Tente executar o xev ,
Você deve ser capaz de confirmar que a rolagem para cima / para baixo na janela xev produz logs com o botão do mouse 4 e 5, por exemplo:
ButtonRelease event, serial 46, synthetic NO, window 0x4000001,
root 0xc4, subw 0x0, time 169151426, (78,60), root:(142,831),
state 0x800, button 4, same_screen YES
ButtonPress event, serial 46, synthetic NO, window 0x4000001,
root 0xc4, subw 0x0, time 169151506, (78,60), root:(142,831),
state 0x0, button 5, same_screen YES
Se não estiver, pode ser um problema de configuração do X, isto é, suas entradas de rolagem do mouse são de alguma forma mapeadas para alguns outros eventos importantes. Mas acho que o primeiro lugar para procurar seria na configuração do i3. Eu assumo que o comportamento de comutação da área de trabalho seria um recurso e, portanto, pode haver uma opção onde ele está vinculado a uma chave na configuração.
Basicamente; descobrir quais eventos os pergaminhos do mouse estão produzindo, então grep configs para eles.