O Windows não tem como detectar se você conectou o cabo. Os RCAs não possuem um sensor como os mini-jacks.
Você precisa trocar seu dispositivo padrão para S / PDIF no CP. Se não aparecer, isso pode ser um problema de reconhecimento de driver / hardware em vez de cabeamento.
No entanto, o S / PDIF não é muito bom em transmitir 5.1, você acaba com uma decodificação dupla - se você tem saídas analógicas [5 ou 7.1], isso seria melhor, sonoramente. [Você pode ignorar com segurança os 'extras' 2 canais que compõem 7.1, já que eles quase sempre são decodificados artificialmente dos outros 4 canais surround.]Além disso, verifique se você tem o melhor Realtek CP diretamente de seu site - Codecs de áudio de alta definição , ele contém muito mais configurações do que a que você obtém da Microsoft, EQ global, balanceamento de canais individuais, atrasos de tempo por alto-falante, etc.