Dê uma olhada no PureText . Não acho que exista uma "configuração no nível do sistema operacional" específica para desativar rich text na área de transferência, mas o objetivo da PureText é fazer exatamente isso.
Também oferece a flexibilidade de configurar teclas de atalho personalizadas para converter texto em formato de texto simples. Ao alterar a tecla de atalho para Ctrl-v, você pode colar e converter o texto em uma única foto.
Compatível com o Windows 95 e superior. PureText é freeware.