Clique com o botão direito em qualquer arquivo de áudio (por exemplo: .mp3) e clique em propriedades. Na guia geral, clique no botão "Alterar" ao lado de "Abrir com:". Aqui selecione um programa que você gostaria de abrir ao usar o botão 'Play All' (por exemplo: VLC). Aceita essas configurações clicando em uma série de OK e Aplicar. Se você tiver vários tipos de arquivos de áudio (.wav, .wma, etc :), talvez seja necessário seguir as etapas acima nesses arquivos também.
Mas lembre-se, você precisará fazer isso apenas uma vez por tipo de arquivo.