Para poder ligar ou desligar precisamente (ou seja, tensão ou sem tensão) certos pinos nas portas io de um computador, você precisa ter acesso exclusivo à interface do software para garantir que o sistema operacional não PARE você, ou comece a mexer com isso no meio de suas operações.
Você também precisa, de alguma forma, garantir que o software de qualquer driver não faça isso no mesmo estilo.
ENTÃO você pode alterar as configurações do circuito de hardware para que ele faça o que você deseja. Observe que algumas coisas ainda podem ser impossíveis devido a limitações no design do hardware.
Eu duvido que o programa mode do prompt dos realmente possa definir e manter a saída rts ativada ou desativada. É melhor verificar o que mode /? imprime sobre ele, até mesmo pesquisar sobre ele pode ajudar a se informar.
RTS é a abreviação de Request To Send, que é usada no handshaking de tipo de hardware para comunicação serial (RS232). Isso deve ser interconectado com "CTS" (Limpar para Enviar) na outra extremidade, supondo que você tenha um dispositivo semelhante (comunicação DCE para DCE).
Veja o link para mais detalhes.