Este one-liner deve ajudar:
ls -l /proc/[0-9]*/fd/* |grep /dev/ttyS0
substitua ttyS0 pelo nome real da porta
:
lrwx------ 1 root dialout 64 Sep 12 10:30 /proc/14683/fd/3 -> /dev/ttyUSB0
Isso significa que o pid 14683 tem o /dev/ttyUSB0 aberto como descritor de arquivo 3