Parece que marcar Always use this program to open this type of file na verdade interrompe o painel Visualização para arquivos MP3 (e possivelmente outros tipos de arquivo também).
Como solução alternativa, sugiro que você use a ferramenta FileTypesMan para associar arquivos MP3 ao Audacity. Em FileTypesMan, primeiro clique duas vezes na entrada .mp3 , limpe o User Choice e clique em OK . Em seguida, clique com o botão direito do mouse no painel inferior, adicione uma nova ação ao Audacity e marque-a como a ação padrão.