O sistema operacional óbvio é o Windows Embedded , que pode oferecer a você em tempo real ou difícil (dependendo do seu aplicativo), mas eu não sei de antemão como é bom o seu suporte para .net é. Certamente existem versões do Win Embedded que têm algum suporte para .Net mas o diabo vai estar nos detalhes.
Adicionado depois: outra alternativa - se você é um masoquista - é que você pode ser capaz de portar seu aplicativo para rodar em um PLC usando essas bibliotecas.