Não é muito claro a partir da pergunta, mas tenho que assumir que algum outro programa está usando a porta. Que impede você de abrir a porta, necessária para obter as configurações. Portas seriais não podem ser compartilhadas. Você pode fazer isso depois que o programa fechar a porta, mas há chances diferentes de zero de restaurar as configurações.
A melhor maneira é usar o utilitário Portmon gratuito da SysInternals. Ele instala um driver de filtro que rastreia o driver da porta serial. Você verá tudo o que o programa faz, incluindo a inicialização da porta.