Eu sei que essa pergunta é antiga e que o goldenmean provavelmente já resolveu ou mudou de idéia, mas alguém pode se deparar com essa questão em busca de uma resposta.
O Wine não atribui automaticamente portas seriais do Linux a portas COM para programas do Windows, mas isso pode ser feito com um simples link simbólico. Para o Wine, em um terminal de comando, você faz o seguinte:
$ ln -s /dev/ttyS0 ~/.wine/dosdevices/com1
$ ln -s /dev/ttyS1 ~/.wine/dosdevices/com2
Repita conforme necessário para obter todas as portas seriais do ttySx que você precisa para as portas COMx.
A versão comercial do Wine, chamada Crossover Linux, pode fornecer ferramentas de GUI para isso ou fazê-lo automaticamente, mas nunca o usei.