Não sei se as opções existentes (por exemplo, Scilab ou Octave com o pacote de sistemas de controle ) pode lidar com dados em tempo real.
Em qualquer caso, não deve ser difícil fazer o seu próprio; Eu provavelmente usaria Python + SciPy + NumPy + pyserial + matplotlib (+ qualquer estrutura da web se você planeja controlar isso pela rede) .
Existe uma biblioteca de sistemas de controle para Python , mas eu nunca usei muito .