Eu descobri o meu problema:
Eu não estava visualizando uma playlist, estava vendo uma pasta de playlists e ela estava mostrando todas as músicas de cada uma das playlists na pasta simultaneamente. Quando clicamos na lista de reprodução específica, deixo-me remover a música dessa lista de reprodução.
Faz sentido! (Eu só queria que eles tivessem colocado uma caixa de diálogo dizendo "não é possível remover músicas ao visualizar mais de uma lista de reprodução")