Eu tenho usado o AudioSwitcher [freeware / donationware] por um longo tempo para fazer isso.
Não é automático, mas pode ser acionado por tecla de atalho ou a partir de um pop-up da barra de tarefas para trocar as saídas de áudio em tempo real - não é necessário reiniciar.
Eu nunca testei HDMI, mas funciona perfeitamente bem quando esqueço de trocar saídas do iTunes - RCA estéreo; para VLC - analógico 5.1 antes do lançamento.
Anteriormente, eu teria que sair, trocar saídas, relançar ... tedioso.